AIアプリケーションによる児童虐待の恐れ

AP通信が昨日、この団体の報告を引用して伝えたところによると、多くの人がAIを使って実在の人物の顔をヌード画像や動画に貼り付けたり、自ら偽の顔をデザインしたりして、ポルノ「作品」を作り上げているという。

放置すれば、数十億もの偽画像が、真に危険にさらされている子どもたちの救出を捜査当局に困難にする可能性があります。また、悪意のある人物がこれらの画像を利用して第三者に販売したり、被害者を脅迫したりする可能性もあります。

ユーロニュースによると、AIが生成した児童性的虐待画像のほとんどは米国と英国の現行法では違法だが、法執行機関がそれを阻止する手段を持っているかどうかは不明だ。