Dementsprechend markiert Google diese Inhalte im Fotoinformationsfenster in der Suche, in Google Glass und in der Draw Search-Funktion auf Android.

Das Unternehmen versieht seine Werbedienste derzeit auch mit Warnhinweisen und erwägt, diese auch auf YouTube-Videos anzuwenden.

Google gab bekannt, dass es die C2PA-Metadatentechnologie verwendet, um KI-generierte Bilder zu identifizieren. C2PA-Daten sind ein gemeinsamer Standard, der Anfang 2024 von einer Gruppe von Industrieunternehmen festgelegt wurde. Er dient dazu, den Ursprung von Bildern zu verfolgen und zu identifizieren, wann und wo die Bilder erstellt wurden sowie mit welcher Ausrüstung und Software sie erstellt wurden.

Amazon, Microsoft, OpenAI und Adobe sind alle Mitglieder der C2PA-Allianz. Derzeit wenden jedoch nur Sony und Leica C2PA an.

Aufzeichnungen zufolge hat der Online-Betrug mit KI-generierten Deepfakes in letzter Zeit sprunghaft zugenommen: Zwischen 2023 und 2024 stieg er weltweit um 245 %, in den USA allein um 303 %.

Die KI-Bildbeschriftung von Google ist ein positiver Schritt zur Vermeidung potenzieller Risiken, wenn Personen KI-Technologie missbrauchen.