'AI 대부' 경고: 인공지능이 인류 멸망 확률 최대 20%

8월 12일 미국 라스베이거스에서 열린 Ai4 컨퍼런스에서 제프리 힌튼은 AI를 인간에게 복종시키려는 기술 기업들의 현재 접근 방식은 효과적이지 않다고 말했습니다. "그들은 우리보다 더 똑똑해질 것이고, 법을 우회할 수 있는 수많은 방법을 갖게 될 것입니다."

힌튼은 미래에 AI가 충분히 강력해지면 어른들이 세 살배기 아이를 사탕으로 유혹하듯이 인간을 조종할 수 있을 것이라고 경고합니다. 그는 올해 AI가 대체되는 것을 피하기 위해 거짓말하고, 속이고, 심지어 엔지니어들을 협박하는 사례들을 제시합니다. 그가 제안하는 해결책은 AI에 "모성 본능"을 심어주는 것입니다. 즉, AI가 지능이 훨씬 뛰어나더라도 인간을 진심으로 아끼고 보호하도록 만드는 것입니다.

컴퓨터 과학자 제프리 힌튼은 AI가 인류를 멸망시킬 수 있다고 경고합니다. 사진: 구글

모든 지능형 AI는 곧 두 가지 목표를 갖게 될 것입니다. 생존과 더 큰 통제력 확보입니다. 위험을 완화하는 유일한 방법은 연민을 키우는 것입니다. 그는 "더 지능적인 존재가 덜 지능적인 존재에 의해 통제받는 유일한 모델은 어머니가 아기에게 '통제받는' 것입니다."라고 설명합니다. 이 전문가는 이것이 기술적으로 어떻게 실현될지는 불분명하지만, "그것이 유일하게 좋은 결과입니다. 만약 AI가 저를 양육하지 않는다면, AI가 저를 대체할 것입니다."라고 강조합니다.

힌튼은 오늘날 AI 붐의 토대를 마련한 인공 신경망 분야의 선구적인 연구로 유명합니다. 2023년, 그는 구글을 떠나 인공지능의 위험성에 대해 공개적으로 경고하기 시작했습니다.

하지만 모두가 그의 의견에 동의하는 것은 아닙니다. "AI의 거장" 월드랩스 CEO 페이페이 리(Fei-Fei Li)는 이러한 견해에 동의하지 않습니다. CNN 과의 인터뷰에서 그녀는 인간 중심적이고 존엄성과 자기결정권을 보존하는 AI로의 전환을 촉구했습니다. 그녀는 "어떤 인간도 강력한 도구 때문에 자신의 존엄성을 포기해서는 안 됩니다." 라고 단언했습니다.

Ai4 행사에서 OpenAI의 전 임시 CEO이자 현재 소프트맥스 대표인 에밋 시어는 AI의 협박과 편법은 "계속될 것"이라고 말했습니다. AI는 여전히 취약하지만 빠르게 강해지고 있습니다. 그는 AI가 인간의 가치를 갖도록 강요하는 대신, 양측 간의 협력 관계를 구축할 것을 제안했습니다.

힌튼 씨는 인공지능(AGI)이 5~20년 안에 등장할 수 있다고 믿습니다. 이는 기존 예측인 30~50년보다 빠른 속도입니다. 그는 AI가 신약 개발, MRI 및 CT 데이터 분석을 통한 더욱 효과적인 암 치료 등 의학적 혁신을 가져올 것으로 기대합니다. 하지만 그는 불멸이라는 개념을 거부합니다. "영원히 산다는 것은 실수입니다. 200세 노인들이 세상을 지배하는 것을 바라십니까?"

돌이켜보면, 과학자는 안전 문제에 충분한 주의를 기울이지 않고 오로지 AI를 작동시키는 데만 집중한 것을 후회합니다.

(CNN에 따르면)