Fälschungen durch künstliche Intelligenz als Waffe. Erkennen wir die Wahrheit?

Den Zeitzeugen ist sicherlich der Name des fiktiven Unternehmens, das im Film humanoide Roboter herstellt, im Gedächtnis geblieben – US Robotics. Erinnern Sie sich? US Robotics war in den 90er Jahren einer der wichtigsten Akteure auf dem Markt für Modems für Einwahlverbindungen, und sicherlich ist damals jeder einmal auf ihr Modell Courier gestoßen. Später wurden sie von der Firma 3com übernommen, aber jetzt sind sie wieder unabhängig und produzieren Geräte für die IoT-Konnektivität.

Das Thema ist eine Rebellion der künstlichen Intelligenz, die zu der Überzeugung gelangt, dass der Mensch für sich selbst gefährlich ist und dass sie daher zum Schutz des Menschen die Kontrolle über sein Leben übernehmen muss. Ein interessanter Gedanke. Doch beginnt sich künstliche Intelligenz nicht tatsächlich auch in der Realität ein Stück weit unserer Kontrolle zu entziehen? Die Beschleunigung ihrer Entwicklung und Fähigkeiten erweitert nicht nur die menschliche Kreativität, sondern legt zugleich eine bislang beispiellose Waffe in die Hände von Cyberkriminellen. Künstliche Intelligenz ist in der Lage, Code zu schreiben, gewissermaßen zu programmieren, sie kann Köder für soziale Manipulationen erstellen und sogar Angriffe planen und durchführen. Zudem ist sie fähig, sogenannte Deepfakes zu erzeugen.
Ein Deepfake ist laut Definition ein digital erzeugtes oder bearbeitetes Bild-, Audio- oder audiovisuelles Material, das eine reale Person, ihr Aussehen, ihre Stimme oder ihr Verhalten glaubwürdig imitiert und dadurch den Eindruck einer authentischen, tatsächlich nie stattgefundenen Situation erwecken kann. Aktuell wird berichtet, dass bereits heute nahezu nicht identifizierbare Fälschungen von wenigen Sekunden Länge erzeugt werden können, die im Rahmen von Cyberbetrug zunehmend eingesetzt werden.
In den kommenden Jahren ist sowohl mit einem weiteren Anstieg der Rechenleistung als auch mit einer deutlichen Verbesserung großer multimodaler Modelle sowie der zugrunde liegenden Produktionstechnologien zu rechnen. Es wird erwartet, dass die „Perfektion“ von Video-Fälschungen innerhalb der nächsten fünf Jahre eine Länge von bis zu mehreren Minuten erreichen wird.

Vielleicht auch gerade deshalb hat die Europäische Kommission die Verordnung über künstliche Intelligenz, den sogenannten AI Act (AIA), verabschiedet, der die Regeln für deren Entwicklung und Einsatz festlegen soll. Die Verordnung ist seit dem 2. August 2024 in Kraft. Ab dem 2. Februar 2025 gelten bereits einzelne Bestimmungen, etwa Verbote bestimmter KI-Systeme, Transparenzanforderungen oder Schulungspflichten für Mitarbeitende. Ab dem 2. August 2026 sollen dann strengere Anforderungen für sogenannte Hochrisiko-Systeme greifen. In der Tschechischen Republik wird derzeit die entsprechende nationale Gesetzgebung vorbereitet. Es bleibt abzuwarten, wie wirksam diese Maßnahmen tatsächlich sein werden.
Entweder beginnt Viki (Ich, der Robot) uns zu beschützen oder SkyNet (Terminator) löst einen Krieg aus...

Wenn Sie Beratung zu Ihrer IT oder deren Sicherheit wünschen, wenn Sie Beratung zur Implementierung von KI und insbesondere von AIA wünschen, wenden Sie sich gerne an Aricoma. Wir beraten Sie gerne, und wie man so schön sagt: Fragen kostet nichts :-)