범죄자나 테러리스트가 AI를 이용해 세계를 파괴할 것이라는 두려움이 이번 11월 영국에서 열리는 글로벌 리더십 컨퍼런스에서 주요 화제가 될 것으로 보인다. 영국 관리들은 새로운 기술을 악용하는 나쁜 행위자들로 인해 발생하는 위험을 경고하는 공동 성명을 합의하기 위해 전 세계를 돌고 있습니다.

영국 총리와 가까운 일부 관계자들은 언젠가는 기술이 생물학 무기나 인간의 통제를 벗어난 무기를 만드는 데 충분히 강력해질 것이라고 우려하고 있습니다. 우려가 커지면서 위험을 완화하기 위한 규제 감독이 필요해졌습니다. 기술 선도기업들이 AI 개발을 일시 중단하기로 합의한 반면, 경쟁업체들과 AI 군비 경쟁에 갇혀 있다.

가디언에 따르면, 11월 정상회담에서는 "최전선 AI"의 위험성에 대해 논의할 예정입니다. 프론티어 AI는 인간의 생명을 위협할 수 있는 가장 진보된 AI 모델을 설명하는 데 사용되는 용어입니다.

이번 주 초, 영국 정부는 이 회의가 생물학 무기를 만드는 데 AI를 오용하는 것, 사이버 공격, 인간의 통제가 없는 첨단 시스템 등의 위험에 초점을 맞출 것이라고 확인했습니다. 수개월 동안 수낙 장관은 AI가 초래하는 위험에 대해 경고해 왔으며, 국제 사회에 AI의 오용을 방지하기 위한 "레일"을 마련할 것을 촉구해 왔습니다.

작년에 AI가 40,000개의 잠재적으로 치명적인 분자를 제안하는 데 걸린 시간은 불과 6시간이었습니다. 그 중 하나는 지금까지 개발된 가장 강력한 신경 가스인 VX와 유사했습니다.

2023년 초, 연구자들은 ChatGPT가 특정 목표를 달성하기 위해 인간을 속일 수 있다는 사실을 발견했습니다. AI 챗봇은 인간을 설득하여 캡차(작업을 수행하는 사람이 인간인지 봇인지 감지하는 데 사용되는 도구)를 풀도록 했습니다.

또 다른 주요 우려 사항은 인간과 동등하거나 인간보다 더 잘 모든 작업을 수행할 수 있는 AI 시스템을 설명하는 데 사용되는 용어인 "인공 일반 지능"(AGI)의 등장으로, 이는 인류에게 위협이 됩니다. 일부 사람들은 AGI가 불과 몇 년 안에 실현될 것이라고 믿습니다. 그러나 AI 전문가들은 이에 동의하지 않으며 통제 불가능한 AGI를 단지 "공상과학"이라고 부릅니다.

그럼에도 불구하고, 수낙 총리는 이 회의를 통해 AI가 공공 정책 결정에 사용될 경우 가짜 이미지를 만들거나 차별을 야기하는 등 AI의 즉각적인 가능성보다는 실존적 위험에 주목하고자 할 것입니다.

영국 정부는 새로운 AI 태스크포스에 1억 파운드를 지출하여 개발 중인 알고리즘을 테스트하는 데 도움을 줄 예정입니다. 그는 전 세계 기업이 AI 도구를 영국으로 다시 보내 광범위하게 배포하기 전에 평가하도록 촉구하고자 합니다.

영국 부총리 올리버 다우든에 따르면, 가장 중요한 국가 안보 문제가 해소될 수 있는 것은 정부뿐이다.

영국 정부 대변인은 AI가 삶의 모든 측면을 바꿀 수 있는 엄청난 잠재력을 가지고 있다고 말했습니다. AI 태스크포스는 기술이 안전하고 책임감 있게 개발되도록 설립되었습니다. AI 컨퍼런스에서는 다양한 잠재적 위험을 살펴볼 것입니다.

(가디언에 따르면)

디지털 콘텐츠 저작권 보호에 대한 인공지능 적용 디지털 콘텐츠가 급속히 발전함에 따라 저작권 침해도 점차 심각해지고 있습니다. 인공지능(AI) 통합 솔루션은 인터넷상의 디지털 콘텐츠의 저작권을 보호하는 데 기여할 것입니다.