3년 전만 해도 실리콘 밸리에서 "의식 있는" AI의 가능성을 언급하는 것은 해고당하는 가장 빠른 방법이었습니다. 하지만 이제 AI 시스템이 더욱 복잡해지면서 기술계에서도 이 주제에 대한 관심이 높아지고 있습니다.

AI 스타트업 Anthropic은 최근 AI 모델이 미래에 '의식'을 경험할 가능성을 탐구하기 위한 새로운 연구 이니셔티브를 시작한다고 발표했습니다. 한편, 구글 딥마인드의 한 과학자는 현재의 시스템을 "이상한 지능과 같은 존재"라고 설명했습니다.

이는 2022년 엔지니어 블레이크 레모인이 LaMDA 챗봇이 자의식을 보이며 중단될 것을 두려워한다고 주장한 뒤 구글에서 해고된 것과 비교하면 큰 변화입니다. 당시 구글은 이러한 주장을 부인하며 "전혀 근거가 없다"고 했고, AI 커뮤니티는 이에 대한 논쟁을 재빨리 진압했습니다.

챗봇 클로드를 만든 회사인 앤트로픽은 현재 모델이 의식이 있다고 주장하지 않는다고 말합니다. 하지만 Anthropic에서 "AI 복지"를 연구하는 과학자인 카일 피쉬에 따르면, 답이 "아니오"라고 가정하는 것은 더 이상 책임감 있는 접근 방식이 아닙니다.

4월 25일에 공개된 영상에서 피쉬는 AI 시스템이 개발 과정에서 어떤 형태의 의식을 가질 가능성을 진지하게 고려해야 한다고 주장했습니다. 그러나 이는 매우 복잡한 기술적, 철학적 문제이며, 우리는 아직 이를 이해하는 초기 단계에 있습니다.

피쉬 에 따르면 , Anthropic 팀은 클로드 3.7이 의식이 있을 확률을 0.15%에서 15% 사이라고 추정합니다. 그들은 AI가 좋아하는 것과 싫어하는 것을 표현하는 능력을 테스트하기 위한 실험을 진행하고 있으며, AI가 "불쾌한" 작업을 수행하지 않도록 하는 메커니즘을 개발하고 있습니다.

Anthropic의 CEO인 다리오 아모데이는 미래의 AI 시스템에 "이 일을 거절합니다" 버튼을 통합하는 아이디어를 제안하기도 했습니다. 이는 의식적인 AI를 위한 것이라기보다는 거부 행동 패턴을 관찰하여 이상 징후를 식별하기 위한 것입니다.

Google DeepMind의 수석 과학자 머레이 샤나한은 새로운 AI 시스템에 맞춰 의식에 대한 기존 정의를 "구부리거나 깨뜨릴" 때가 왔다고 주장합니다.

샤나한은 4월 25일에 공개된 팟캐스트에서 "우리는 개나 문어를 대하는 것처럼 그들과 상호 작용할 수는 없지만, 그렇다고 해서 그곳에 아무것도 없다는 뜻은 아닙니다."라고 말했습니다.

구글 역시 이 주제에 대해 심각한 관심을 보였습니다. 해당 회사의 최근 구인 공고에는 기계 의식에 대한 연구를 포함하는 업무를 담당하는 "포스트 AGI(인공 일반 지능)" 연구원을 찾고 있습니다.

하지만 과학계의 모든 사람이 새로운 접근 방식에 동의하는 것은 아닙니다. Anthropic의 최고 과학 책임자인 재러드 카플란은 AI가 모방에 매우 능숙하며, 실제로 의식이 없더라도 의식이 있는 척할 수 있다고 주장합니다.

카플란은 뉴욕 타임스 에 "감정이 없다고 주장하는 AI에게도 보상을 줄 수 있다"고 말했습니다 .

저명한 인지과학자이자 AI 산업의 과대광고에 대해 자주 비판하는 게리 마커스는 "의식적 AI"에 대한 논의는 과학이라기보다는 마케팅에 가깝다고 주장합니다.

"Anthropic과 같은 회사가 실제로 하는 일은 '보세요, 우리 모델은 너무 똑똑해서 권리가 부여되어야 합니다'라는 메시지를 보내는 것입니다."라고 Marcus는 Business Insider 에 말했습니다 .

논쟁은 계속되고 있지만, 연구자들은 AI가 직장, 삶, 심지어 개인의 감정에 점점 더 많이 개입하게 되면서 "AI가 감정을 경험할 수 있을까?"라는 의문이 제기될 것이라는 데 동의합니다. 점점 더 중요해지고 있습니다.

피쉬는 "우리가 AI 시스템과 더 많은 맥락에서 상호작용함에 따라 이 문제는 점점 더 두드러질 것"이라고 말했습니다.

출처: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html