Im Gegensatz zu anderen gängigen KI-Bildgebungstools scheint Musks Grok weniger reguliert zu sein. Im Test von CNN beispielsweise erstellte Grok mühelos gefälschte Bilder von Politikern und führte so Wähler in die Irre.

Bild von Elon Musk erstellt von Chatbox Grok. (Quelle: CNN)

Einige X-Benutzer posteten auch von Grok erstellte Bilder, die Prominente beim Drogenrauchen, Zeichentrickfiguren beim Töten von Menschen und sexualisierte Bilder von Frauen in Bikinis zeigen.

Laut CNN äußert Grok außerdem die Sorge, dass KI zu einer explosionsartigen Zunahme von Fehlinformationen im Internet führen könnte, insbesondere im Hinblick auf die bevorstehenden US-Präsidentschaftswahlen.

Gesetzgeber, Aktivistengruppen und führende Technologieunternehmen haben Alarm geschlagen, dass der Missbrauch solcher Tools zu Verwirrung und Chaos bei den Wählern führen könnte.

Viele der weltweit führenden KI-Unternehmen haben Richtlinien eingeführt, um zu verhindern, dass ihre KI-basierten Bilderzeugungstools zur Verbreitung politischer Desinformation missbraucht werden. Forscher haben jedoch festgestellt, dass die Benutzer manchmal Wege finden, die Regeln zu umgehen.

Mehrere Unternehmen wie OpenAI, Meta und Microsoft verwenden Technologien oder Beschriftungen, damit die Betrachter erkennen können, welche Bilder von ihrer KI generiert werden.

Soziale Netzwerke wie YouTube, TikTok, Instagram und Facebook kennzeichnen KI-generierte Inhalte in den Feeds der Benutzer ebenfalls, indem sie Technologien verwenden, um diese selbst zu erkennen, oder indem sie die Benutzer auffordern, anzugeben, wann sie diese gepostet haben.

Am 16. August schien AI Grok einige Beschränkungen auferlegt zu haben. Das Tool weigert sich derzeit, Bilder von politischen Kandidaten oder berühmten Zeichentrickfiguren zu generieren, die Gewalttaten begehen.