Selon AP citant hier un rapport de cette organisation, de nombreuses personnes ont utilisé l'IA pour coller les visages de vraies personnes dans des images ou des vidéos nues, allant même jusqu'à concevoir elles-mêmes de faux visages, pour créer des « œuvres » pornographiques.

Si rien n’est fait, des milliards de fausses images pourraient rendre difficile pour les enquêteurs de sauver des enfants réellement en danger. Les acteurs malveillants peuvent également utiliser ces images pour les vendre à des tiers ou faire chanter les victimes.

Selon Euronews , la plupart des images d'abus sexuels sur enfants générées par l'IA sont illégales en vertu des lois actuelles aux États-Unis et au Royaume-Uni, mais il n'est pas certain que les forces de l'ordre disposent des outils nécessaires pour les arrêter.