In einem am 26. November veröffentlichten 20-seitigen Dokument einigten sich 18 Länder darauf, dass KI-Forschungs- und Anwendungsunternehmen die Technologie so entwickeln und einsetzen müssen, dass Kunden und die Öffentlichkeit vor Missbrauch geschützt sind, so Reuters.

Die Vereinbarung ist nicht bindend und enthält hauptsächlich allgemeine Empfehlungen, etwa zur Überwachung von KI-Systemen, um Missbrauch zu erkennen und zu verhindern, zum Schutz von Daten und zur Überprüfung von Softwareanbietern.

Jen Easterly, Direktorin der US-amerikanischen Agentur für Cybersicherheit und Infrastruktursicherheit, sagte jedoch, es sei wichtig, dass so viele Länder die Ansicht teilten, dass bei KI-Systemen die Sicherheit an erster Stelle stehen müsse.

„Dies ist das erste Mal, dass Länder zusammenkommen und sagen, dass es bei diesen Fähigkeiten nicht nur um die Attraktivität der Funktionen geht, darum, wie schnell wir sie auf den Markt bringen können oder wie wir im Wettbewerb die Kosten senken können“, sagte Easterly gegenüber Reuters. Der Beamte sagte, die Leitlinien stellten „eine Vereinbarung dar, dass in der Entwurfsphase vor allem die Sicherheit gewährleistet werden müsse.“

Das Abkommen ist die jüngste einer Reihe von Initiativen von Regierungen weltweit, die die Entwicklung der KI mitgestalten sollen. Die Auswirkungen der KI sind in allen Branchen und in der Gesellschaft insgesamt zunehmend spürbar.

Das Dokument behandelt Fragen zum Schutz von KI-Systemen vor Hackerangriffen und enthält Empfehlungen wie etwa, neue Modelle erst nach gründlichen Sicherheitstests zu veröffentlichen. Die neuen Leitlinien gehen nicht auf heikle Fragen zur angemessenen Nutzung von KI oder zur Erfassung der Daten ein, die diese Modelle speisen.

Der Aufstieg der KI hat zahlreiche Bedenken ausgelöst, darunter die Befürchtung, dass KI dazu eingesetzt werden könnte, den demokratischen Prozess zu stören, Betrug zu fördern oder zu Massenarbeitslosigkeit und anderen Schäden zu führen.

Europa ist den USA bei der Verabschiedung KI-bezogener Vorschriften voraus. Auch Frankreich, Deutschland und Italien haben sich vor Kurzem auf eine Regelung zur Regulierung des Sektors im Hinblick auf die zugrundeliegenden Modelle der KI geeinigt.

Die Biden-Regierung hat die Gesetzgeber zur Regulierung der KI gedrängt, doch der zutiefst polarisierte Kongress hat bei der Verabschiedung wirksamer Vorschriften kaum Fortschritte erzielt.

Mit einer neuen Durchführungsverordnung im Oktober versuchte das Weiße Haus, die Risiken der KI für Verbraucher, Arbeitnehmer und Minderheiten zu mindern und gleichzeitig die nationale Sicherheit zu stärken.