In den letzten Monaten haben Kindersicherheitsexperten und Forscher vor dem Risiko gewarnt, dass künstliche KI den Online-Missbrauch verschlimmern könnte.

Das NCMEC hat die Gesamtzahl der Meldungen über Kindesmissbrauchsmaterial aus allen Quellen, die es im Jahr 2023 erhalten hat, noch nicht veröffentlicht. Im Jahr 2022 gingen jedoch etwa 88,3 Millionen Meldungen zu diesem Problem ein.

„Wir erhalten Berichte von innovativen KI-Unternehmen selbst, (Online-)Plattformen und Mitgliedern der Öffentlichkeit“, sagte John Shehan, Vizepräsident des NCMEC.

Die CEOs von Meta, X, TikTok, Snap und Discord sagten am Mittwoch (31. Januar) bei einer Anhörung des US-Senats zur Kindersicherheit auf Online-Plattformen aus. US-Gesetzgeber haben Social-Media-Unternehmen zu ihren Bemühungen befragt, Kinder vor „Online-Raubtieren“ zu schützen.

Generative KI könnte von Kriminellen eingesetzt werden, um echten Kindern wiederholt Schaden zuzufügen, indem sie gefälschte Bilder von ihnen erstellen, erklärten Forscher des Stanford Internet Observatory im vergangenen Juni in einem Bericht.

Fallon McNulty, Leiter der CyberTipline des NCMEC, die Meldungen über Online-Ausbeutung von Kindern entgegennimmt, sagte, KI-generierte Inhalte würden „immer fotorealistischer“, was es schwieriger mache, festzustellen, ob es sich bei den Opfern um echte Menschen handele.

OpenAI, das Unternehmen, das ChatGPT entwickelt hat, hat einen Prozess zur Übermittlung von Berichten an NCMEC eingerichtet und die Organisation befindet sich in Gesprächen mit anderen KI-Unternehmen, sagte McNulty.

Hoang Hai (laut Reuters, FT)