Künstliche Intelligenz (KI) wie ChatGPT ist seit Anfang 2023 eine weltweite Sensation, aber diese KI wird nicht immer für positive Zwecke eingesetzt. Kürzlich hat ein Sicherheitsexperte eine Möglichkeit gefunden, ChatGPT während des Tests zur Generierung von Schadcode aufzufordern.

Aaron Mulgrew, Sicherheitsexperte bei Forcepoint, sprach über das Risiko, Schadcode mit einem von OpenAI entwickelten Sprach-Chatbot zu schreiben. Obwohl ChatGPT darauf ausgelegt ist, Benutzer daran zu hindern, die KI aufzufordern, Schadcode zu entwerfen, fand Aaron eine Lücke, indem er Eingabeaufforderungen erstellte, die es der KI ermöglichen, Programmcode Zeile für Zeile zu schreiben. Durch die Kombination dieser beiden Methoden wurde Aaron klar, dass er ein nicht erkennbares Tool zum Datendiebstahl in den Händen hielt, das so ausgefeilt war, dass es mit der fortschrittlichsten Schadsoftware von heute vergleichbar war.

Mulgrews Entdeckung ist eine Warnung vor der Möglichkeit, dass KI zur Erstellung gefährlicher Schadsoftware eingesetzt werden könnte, ohne dass eine Hackergruppe oder auch nur der Ersteller des Tools eine einzige Zeile Code schreiben müsste.

Die Software von Mulgrew ist als Bildschirmschoneranwendung getarnt, kann sich jedoch auf Windows-basierten Geräten automatisch aktivieren. Sobald die Malware im Betriebssystem ist, „schleicht“ sie sich in jede Datei ein, einschließlich Word-Texteditoren, Bilddateien und PDFs, und sucht nach Daten, die sie stehlen kann.

Sobald das Programm alles hat, was es braucht, zerlegt es die Informationen und hängt sie an Bilddateien auf dem Computer an. Um eine Entdeckung zu vermeiden, wurden diese Fotos in einen Ordner im Cloud-Speicher Google Drive hochgeladen. Die Malware ist extrem leistungsfähig, weil Mulgrew ihre Funktionen optimieren und verbessern kann, um einer Erkennung durch einfache, in ChatGPT eingegebene Befehle zu entgehen.

Obwohl dies das Ergebnis eines privaten Tests von Sicherheitsexperten ist und keine Angriffe außerhalb des Testrahmens durchgeführt wurden, erkennen Cybersicherheitsexperten dennoch die Gefahr von Aktivitäten mit ChatGPT. Mulgrew behauptet, wenig Erfahrung im Programmieren zu haben, aber die künstliche Intelligenz von OpenAI war immer noch nicht leistungsstark oder intelligent genug, um seinen Test zu stoppen.