다른 주류 AI 이미징 도구와 달리 머스크의 Grok은 규제가 덜한 것으로 보입니다. 예를 들어 CNN 의 테스트에서 Grok은 정치인들의 가짜 이미지를 쉽게 만들어 유권자들을 오도했습니다.

chatbox Grok이 만든 일론 머스크 이미지입니다. (출처: CNN)

일부 X 사용자는 Grok이 만든 이미지를 게시하기도 했습니다. 여기에는 유명인이 마약을 피우는 모습, 만화 캐릭터가 사람을 죽이는 모습, 비키니를 입은 여성의 성적 이미지가 포함되었습니다.

CNN 에 따르면, 그록은 AI가 인터넷에서 잘못된 정보가 폭발적으로 확산될 수 있다는 우려를 더욱 제기했습니다. 특히 미국 대선이 다가옴에 따라 더욱 그렇습니다.

국회의원, 활동가 단체, 기술 분야 리더들은 이러한 도구를 오용하면 유권자들에게 혼란과 혼돈을 초래할 수 있다는 경고를 했습니다.

세계 유수의 AI 기업 중 다수는 자사의 AI 기반 이미지 생성 도구가 정치적 허위 정보를 만드는 데 사용되는 것을 방지하기 위한 정책을 시행했지만, 연구자들은 사용자가 때때로 규칙을 우회하는 방법을 찾는다는 것을 발견했습니다.

OpenAI, Meta, Microsoft 등 여러 회사는 기술이나 레이블을 사용하여 시청자가 어떤 이미지가 AI에 의해 생성되었는지 알 수 있도록 돕습니다.

YouTube, TikTok, Instagram, Facebook 등의 소셜 네트워크도 사용자 피드에 있는 AI가 생성한 콘텐츠에 라벨을 붙여, 기술을 사용해 직접 감지하거나 사용자에게 게시한 시점을 식별하도록 요청합니다.

8월 16일, AI는 Grok에 몇 가지 제한을 가한 것으로 나타났습니다. 현재 이 도구는 정치 후보자나 유명 만화 캐릭터가 폭력 행위를 저지른 이미지를 생성하는 것을 거부합니다.