로이터에 따르면, 메타의 글로벌 업무 담당 사장인 닉 클레그는 이 그룹이 파일에 통합된 일련의 마커를 사용할 것이라고 말했습니다. 이 회사는 Facebook, Instagram, Threads 서비스에 게시된 모든 콘텐츠에 라벨을 적용할 예정이다. 이는 실제 사진처럼 보일 수 있는 이미지가 실제로는 인공 지능이 생성한 디지털 창작물이라는 사실을 사용자에게 알리기 위한 조치다. 이 회사는 자체 AI 도구를 사용해 생성된 콘텐츠에 라벨을 지정하기도 했습니다.

새로운 시스템이 구축되고 실행되면 Meta는 OpenAI, Microsoft, Adobe, Midjourney, Shutterstock, Alphabet의 서비스에서 생성된 이미지에도 동일한 작업을 수행할 예정입니다. 이 발표는 단순한 텍스트만으로 가짜 콘텐츠를 만들 수 있는 생성적 AI 기술로 인한 피해를 완화하기 위해 기술 회사들이 개발하고 있는 새로운 표준 세트에 대한 첫 번째 소식을 제공합니다.

이러한 접근 방식은 기업들이 대량 폭력 및 아동 착취 묘사와 같은 플랫폼에서 금지된 콘텐츠를 삭제하기 위해 지난 10년 동안 확립한 패턴을 기반으로 합니다.

클레그는 이 시점에서 기업들이 AI가 생성한 이미지에 안정적으로 레이블을 지정할 수 있다고 믿지만, 더욱 정교한 오디오 및 비디오 콘텐츠 레이블 지정 도구가 아직 개발 중이라고 언급했습니다.

가까운 미래에 Meta는 사용자에게 변경된 오디오 및 비디오 콘텐츠에 라벨을 지정하도록 요구할 것이며, 이를 하지 않을 경우 벌금을 부과할 것입니다. 하지만 클레그는 현재 ChatGPT와 같은 AI 도구가 생성한 텍스트에 레이블을 지정할 수 있는 실행 가능한 메커니즘은 없다고 말했습니다.

메타의 독립 감독 위원회는 오해의 소지가 있는 편집된 영상에 대한 회사의 정책을 비판하며, 해당 영상에는 삭제하기보다는 라벨을 붙여야 한다고 말했습니다. 그래서 클레그는 메타의 새로운 움직임이 이 콘텐츠를 더 잘 분류하는 데 도움이 될 수 있다고 믿습니다.