최근 몇 달 동안 아동 안전 전문가와 연구자들은 인공 AI가 온라인 학대를 심화시킬 수 있는 위험성에 대해 경고해 왔습니다.

NCMEC는 2023년에 접수된 모든 출처를 통한 아동 학대 자료 신고 건수를 아직 공개하지 않았습니다. 그러나 2022년에는 이 문제에 대한 약 8,830만 건의 파일 신고가 접수되었습니다.

NCMEC 부사장인 존 셰핸은 "우리는 혁신적인 AI 기업, (온라인) 플랫폼, 그리고 일반 대중으로부터 보고를 받고 있습니다."라고 말했습니다.

Meta, X, TikTok, Snap, Discord의 CEO는 수요일(1월 31일) 온라인 플랫폼의 아동 안전에 관해 미국 상원 청문회에서 증언했습니다. 미국 의원들은 소셜 미디어 기업들이 "온라인 범죄자"로부터 어린이를 보호하려는 노력에 대해 의문을 제기했습니다.

스탠포드 인터넷 연구소의 연구원들은 지난 6월 보고서에서 생성적 AI가 악의적인 행위자에 의해 가짜 이미지를 만들어 실제 어린이들에게 반복적으로 해를 끼칠 수 있다고 밝혔습니다.

온라인 아동 착취 신고를 접수하는 NCMEC의 CyberTipline 책임자인 폴런 맥널티는 AI가 생성한 콘텐츠가 "점점 더 사진처럼 사실적으로" 변해 피해자가 실제 사람인지 판단하기 어려워지고 있다고 말했습니다.

ChatGPT를 만든 회사인 OpenAI는 NCMEC에 보고서를 제출하는 프로세스를 설정했으며, 이 조직은 다른 AI 회사와도 논의 중이라고 McNulty는 말했습니다.

황하이 (로이터, FT 보도)