Truepic CEO 제프리 맥그리거는 이 사건이 빙산의 일각에 불과하다고 말했습니다. 맥그리거 씨는 소셜 미디어에 AI가 생성한 콘텐츠가 많이 나올 것이지만, 우리는 아직 준비가 되어 있지 않다고 말했습니다.

CNN에 따르면 Truepic은 Truepic Lens를 통해 미디어가 생성되는 시점에 미디어를 인증한다고 주장하는 기술을 제공함으로써 이 문제를 해결하고자 합니다. 데이터 수집 앱은 사용자에게 이미지를 만드는 데 사용된 날짜, 시간, 위치, 장치를 알려주고, 이미지가 자연스러운지 또는 AI가 생성한 것인지 확인하기 위해 디지털 서명을 적용합니다.

2015년에 설립된 마이크로소프트 지원 회사인 Truepic은 NGO부터 미디어 회사, 심지어 보험사까지 청구의 적법성을 확인하고자 관심을 보이고 있다고 밝혔습니다.

맥그리거는 모든 것을 위조할 수 있고, 인공지능이 품질과 접근성 면에서 최고조에 달하면, 우리는 더 이상 온라인상의 현실이 무엇인지 알 수 없게 된다고 말했습니다.

Truepic과 같은 기술 회사는 수년간 온라인상의 잘못된 정보를 퇴치하기 위해 노력해 왔습니다. 하지만 사용자 명령으로 이미지와 글을 생성할 수 있는 새로운 AI 도구의 등장으로 인해 긴급성이 더욱 커졌습니다. 올해 초에는 발렌시아가 다운 재킷을 입은 프란치스코 교황과 도널드 트럼프 전 미국 대통령이 체포되는 모습이 담긴 가짜 이미지가 널리 공유되었습니다. 두 사건으로 인해 수백만 명의 사람들이 AI의 잠재적 위험성에 대해 혼란스러워하게 되었습니다.

일부 의원들은 이제 기술 회사가 AI가 생성한 콘텐츠에 라벨을 붙여 이 문제를 해결할 것을 요구하고 있습니다. 유럽 ​​위원회(EC) 부위원장인 베라 주로바는 Google, Meta, Microsoft, TikTok을 포함한 회사가 허위 정보 퇴치에 관한 유럽 연합(EU) 자발적 행동 강령에 가입했다고 밝혔습니다.

제품에 생성적 AI를 구현하는 기업을 포함하여 점점 더 많은 스타트업과 기술 대기업이 사람들이 이미지나 비디오가 AI로 생성되었는지 판단하는 데 도움이 되는 표준과 솔루션을 구현하려고 노력하고 있습니다.

하지만 AI 기술이 인간보다 빠르게 발전함에 따라 이러한 솔루션이 문제를 완벽하게 해결할 수 있을지는 불확실합니다. Dall-E와 ChatGPT를 개발한 회사인 OpenAI조차도 AI가 생성한 글을 감지하려는 자체적인 노력이 불완전하다는 것을 인정했습니다.

솔루션 개발 회사는 문제를 해결하기 위해 두 가지 접근 방식을 취하고 있습니다. 첫 번째는 AI가 생성한 이미지가 온라인에서 제작 및 공유된 후 이를 식별하는 프로그램을 개발하는 것입니다. 다른 하나는 이미지를 실제 이미지 또는 일종의 디지털 서명을 사용하여 AI가 생성한 것으로 표시하는 데 중점을 둡니다.

Reality Defender와 Hive Moderation은 첫 번째 접근 방식을 연구하고 있습니다. 이 플랫폼을 사용하면 사용자는 스캔할 이미지를 업로드하면 사진이 실제인지 AI가 생성한 것인지를 백분율로 나타낸 분석 결과를 받을 수 있습니다.

Reality Defender는 자사의 독점적인 딥페이크 및 생성적 콘텐츠 지문 기술을 사용하여 AI가 생성한 비디오, 오디오 및 이미지를 감지한다고 밝혔습니다. 회사가 제공한 예시에서 Reality Defender는 톰 크루즈의 딥페이크 이미지를 보여주었는데, 이미지 속 인물의 얼굴이 편집된 사진에서 흔히 볼 수 있는 왜곡된 얼굴이었기 때문에 53%가 "의심스럽다"고 평가했습니다.

이러한 서비스는 무료 버전과 유료 버전을 제공합니다. Hive Moderation에서는 1,000개 이미지당 1.50달러를 청구한다고 합니다. Realty Defender는 고객이 회사의 전문성과 지원을 필요로 하는 경우 다양한 요소에 따라 제품 가격이 달라질 수 있다고 말합니다. Reality Defender의 CEO인 벤 콜먼은 누구나 AI 도구를 사용하여 가짜 사진을 만들 수 있기 때문에 위험이 매달 두 배로 증가하고 있다고 말했습니다.

몇몇 다른 회사들은 이미지에 일종의 라벨을 통합하여 실제 이미지인지 AI가 생성한 이미지인지 인증하는 작업을 진행하고 있습니다. 지금까지 이러한 노력은 주로 C2PA(Content Authenticity and Provenance Alliance)에 의해 주도되어 왔습니다.

C2PA는 2021년에 설립되었으며, Adobe의 콘텐츠 인증 이니셔티브(CAI)와 Microsoft와 BBC가 주도하는 Project Origin을 결합하여 디지털 미디어의 출처와 역사를 인증하기 위한 기술 표준을 만들기 위해 설립되었습니다. 특히 디지털 뉴스의 잘못된 정보를 퇴치하는 데 중점을 두고 있습니다. C2PA에 참여하는 다른 회사로는 Truepic, Intel, Sony 등이 있습니다.

CAI는 C2PA 원칙에 따라 기업이 이미지에 대한 정보가 포함된 콘텐츠 자격 증명이나 메타데이터를 만들 수 있는 오픈 소스 도구를 제공합니다. CAI 웹사이트에 따르면, 이를 통해 제작자는 이미지를 만든 방법에 대한 세부 정보를 투명하게 공유할 수 있습니다. 이렇게 하면 최종 사용자는 누가, 무엇이, 어떻게 이미지를 변경했는지에 대한 맥락을 파악하고 이미지의 진위 여부를 직접 판단할 수 있습니다.

많은 회사가 C2PA 표준과 CAI 도구를 자사 애플리케이션에 통합했습니다. Adobe의 Firefly는 Photoshop에 추가된 새로운 AI 이미징 도구로, 콘텐츠 자격 증명 기능을 통해 C2PA 표준을 준수합니다. Microsoft는 또한 Bing Image Creator와 Microsoft Designer로 만든 이미지와 비디오에 향후 몇 개월 안에 암호화 서명이 적용될 것이라고 발표했습니다.

5월에 Google은 "이 이미지 정보" 기능을 발표했습니다. 이 기능을 사용하면 사용자는 이미지가 처음 Google에 나타난 시점과 어디에서 볼 수 있는지 확인할 수 있습니다. 검색 대기업은 또한 Google AI가 생성한 모든 이미지에 원본 파일에 마크업을 포함시켜 해당 이미지가 다른 웹사이트나 플랫폼에서 발견될 경우 "맥락을 추가"할 것이라고 발표했습니다.

기술 회사들이 AI가 생성한 이미지와 디지털 미디어의 무결성에 대한 우려를 해소하려고 노력하는 가운데, 해당 분야 전문가들은 기업이 이 문제를 해결하기 위해 정부와 협력해야 한다고 강조합니다. 하지만 기술 회사들은 위험에도 불구하고 AI를 개발하기 위해 경쟁하고 있습니다.