Crainte de maltraitance infantile due aux applications d'IA

Selon AP, qui cite hier un rapport de cette organisation, de nombreuses personnes ont utilisé l'IA pour coller les visages de vraies personnes dans des images ou des vidéos de nus, allant même jusqu'à concevoir elles-mêmes de faux visages, pour créer des « œuvres » pornographiques.

Si rien n'est fait, des milliards de fausses images pourraient compliquer la tâche des enquêteurs pour sauver des enfants réellement en danger. Des acteurs malveillants pourraient également les utiliser pour les vendre à des tiers ou faire chanter leurs victimes.

Selon Euronews , la plupart des images d'abus sexuels sur enfants générées par l'IA sont illégales en vertu des lois actuelles aux États-Unis et au Royaume-Uni, mais il n'est pas certain que les forces de l'ordre disposent des outils nécessaires pour les arrêter.