AI 도구는 쉽게 가짜 기술 제품을 만들어냅니다. (삽화)

“딥페이크 시대”

긍정적인 측면과는 반대로, AI가 잘못된 손에 들어가면 개인 소셜 미디어 계정에서 이미지를 쉽게 훔쳐 원치 않는 참고 자료로 바꿀 수 있습니다. 예를 들어, 포르노 웹사이트에서는 동의 없이 개인의 이미지를 사용할 수 있습니다.

매사추세츠 공과대학(MIT)의 연구원인 하디 살만은 "우리는 딥페이크 시대에 살고 있습니다"라고 말했습니다. "이제는 누구나 이미지와 비디오를 조작해 사람들이 실제로 하지 않은 일을 '하게' 만들 수 있습니다."

딥페이크는 '딥 러닝'과 '페이크'의 합성어로, AI를 활용해 오디오, 이미지, 심지어 비디오 등의 형태로 가짜 기술 제품을 만드는 기술입니다.

단 몇 초 만에, 몇 가지 간단한 명령만으로 AI는 "나쁜 놈들"이 원하는 이미지를 만들어낼 수 있습니다. 예를 들어, 누군가 AI에게 교황이 발렌시아가 재킷을 입은 사진을 찍어 달라고 요청한 다음, 사진이 가짜라는 사실이 밝혀지기 전에 인터넷에 게시할 수도 있습니다.

AI 기술은 특정 예술가의 스타일로 예술 작품을 창작할 수 있는 능력으로 사용자를 놀라게 합니다. 예를 들어, 유명한 예술가 빈센트 반 고흐의 스타일로 그린 것 같은 고양이 그림을 만들 수 있습니다.

시각 예술가의 경우, 이러한 도구를 사용하면 AI 모델이 그들의 고유한 스타일을 모방하고 허가 없이 예술 작품을 만들어낼 수 있어 일자리를 잃을 위험이 있습니다.

AI 프로펠러

독일 슈투트가르트에 사는 에블린 프뢸리히는 AI의 과도한 영향력에 맞서 싸우고 온라인에서 자신의 시각 작품을 조작으로부터 보호할 방법을 모색하는 많은 예술가 중 한 명입니다.

최근, 프뢰리히 여사는 시카고 대학(미국)의 컴퓨터 과학자들이 AI 모델의 남용을 방지하기 위해 개발한 Glaze라는 도구에 대해 알게 되었습니다.

시카고 대학의 컴퓨터 과학 교수이자 Glaze 프로젝트의 주요 연구자 중 한 명인 벤 자오는 CNN에 이 도구는 AI 모델을 훈련하는 사람들로부터 예술가의 독특한 작품을 보호하기 위한 것이라고 말했습니다.

Glaze 소프트웨어는 머신 러닝 알고리즘을 사용하여 육안으로는 볼 수 없는 디지털 이미지에 작은 변경을 가하지만 온라인 환경에서는 작품에 대한 보호 계층을 생성하여 AI 모델을 속여 작가의 스타일을 복사할 수 없게 만듭니다.

Glaze 덕분에 예술 작품은 "투명 망토로 덮여" AI가 이미지를 "읽지" 못하게 됩니다.

예를 들어, 조 씨는 예술가가 Glaze를 통해 처리된 자신의 유화 이미지를 업로드할 수 있다고 설명했습니다. AI 모델이 그림을 "읽을" 때, 그들은 그것을 목탄 스케치로 보지만, 사람은 그것이 유화라는 것을 즉시 알아볼 수 있습니다. Glaze를 실행한 후의 아트워크는 이제 AI의 눈에 상당히 다르게 보일 것입니다.

Zhao의 팀은 지난 3월에 Glaze의 첫 번째 버전을 출시했고, 해당 도구는 백만 건 이상 다운로드되었습니다. 지난주에 해당 팀은 Glaze의 무료 온라인 버전을 출시했습니다.

이 팀은 구체적인 규정과 법률이 제정될 때까지 Glaze 도구가 예술가의 저작권을 보호하는 데 도움이 되기를 바랍니다.

조 씨는 Glaze를 도입한 이후 성우, 소설가, 음악가, 언론인 등 다양한 분야의 사람들이 관심을 보였다고 말했습니다. 그들은 모두 자신의 분야에 맞는 Glaze 버전에 관해 문의하기 위해 그의 팀에 연락했습니다.

캘리포니아에 거주하는 시각 예술가 존 램은 Glaze 도구를 사용하여 자신의 온라인 아트워크가 AI 모델을 훈련하는 데 사용되는 것을 방지하고 있으며, 현재는 온라인에 공유하는 모든 아트워크에 이 앱을 사용한다고 말합니다.

그에 따르면, 그와 같은 예술가들은 수년 동안 자신의 작품을 자랑스럽게 인터넷에 최고 해상도로 게시해 왔다고 합니다. "저희는 사람들이 풀 HD 사진이 얼마나 섬세하고 놀라운지 직접 보고 싶습니다. 하지만 아티스트들은 AI 모델이 자신의 작품을 '먹어치울' 수 있다는 사실을 알지 못합니다. AI 모델은 자신의 스타일을 모방하여 불공정한 경쟁에 노출시키죠.

"이제 사람들이 우리의 고해상도 작품을 AI 기계에 입력하여 우리와 같은 분야에서 경쟁하고 있다는 것을 알게 되었습니다. 따라서 우리는 더욱 신중해야 하며, 스스로를 보호하는 방법을 생각해야 합니다."라고 그는 말했습니다.

살만과 그의 팀은 AI로부터 이미지를 보호하는 것을 목표로 한 또 다른 도구를 출시했습니다. PhotoGuard라는 앱을 사용하면 사용자는 이미지 위에 보이지 않는 보호 레이어를 붙여 AI 모델이 이미지를 조작하지 못하도록 할 수 있습니다.

PhotoGuard의 목표는 작성자가 온라인에 이미 업로드한 사진을 "악의적인 AI 조작"으로부터 보호하는 것이라고 Salman은 말했습니다.

PhotoGuard 앱은 사람이 감지할 수 없는 방식으로 이미지의 픽셀을 조정하여 작동합니다. 하지만 육안으로는 감지할 수 없는 이 변화는 강력하며 AI 모델이 이미지를 조작하려는 시도를 신중하게 회피합니다.

즉, PhotoGuard로 사진을 보호한 후 누군가 AI를 사용하여 사진을 편집하려고 하면 그 결과 사진이 "전혀 현실적이지 않다"는 것을 의미한다고 살만은 설명했습니다.

라이센스 없음

반면, AI 도구가 이미지를 촬영하고 조작하더라도, AI가 만든 이미지는 저작권으로 인정받지 못합니다.

AI가 등장하고 인기를 얻으면서 동시에 이런 작품도 저작권이 있는지 없는지에 대한 논쟁이 촉발되었습니다. 그렇다면, 그들은 누구의 것입니까?

미국 저작권 사무소(USCO)는 이 작품에 대한 공식 결정을 내렸습니다. USCO에 따르면, 명령에 따라 AI가 생성한 이미지(현재의 Midjourney, Dall-E, Stable Diffusion 앱 등)는 미국에서 저작권의 보호를 받을 수 없습니다.

미국법은 지적 재산권이 인간의 창의성의 산물인 경우에만 저작권으로 보호받을 수 있다고 명시하고 있습니다. USCO는 현재 인간이 작곡한 작품만 인정하고 있습니다. 따라서 AI 기계는 저자로 간주되지 않으며, 그들이 만든 제품은 저작권의 보호를 받지 못합니다.

USCO 이사인 시라 펄머터는 "작품의 저작권에 대한 전통적인 요소가 기계에 의해 창조된 경우, 그 작품은 인간에게 저작권이 보호되지 않으므로 USCO는 이를 등록하지 않을 것"이라고 말했습니다.