AI를 생물학적 무기로 취급하자는 주장을 담은 그림입니다. (출처: gizmodo.com)

과학자이자 의사이며 미국 미래생명연구소 소장인 에밀리아 자보르스키는 논문 'AI를 핵무기가 아닌 생물학 무기로 취급하라 '에서 세계가 최근 AI를 핵폭탄에 비유하고 있지만, 이 기술을 생물학 무기나 생명공학으로 규제하는 것이 더 적절한 접근 방식이라고 주장합니다.

저자에 따르면, AI는 아마도 인간이 오늘날 개발하고 있는 인류 역사상 가장 강력한 기술일 것입니다. AI가 차별, 민주주의에 대한 위협, 영향력 집중 등 해악을 끼친다는 사실은 이미 잘 알려져 있습니다.

그러나 선도적인 AI 기업들은 점점 더 강력한 AI 시스템을 구축하기 위해 경쟁하고 있으며, 이로 인해 인류 역사상 전례 없는 속도로 위험이 커지고 있습니다.

리더들이 AI의 확산과 그에 따른 위험을 억제하고 통제하는 방법을 고심하는 가운데, 인류가 과거에 AI를 만들어내기 위해 활용했던 조정과 기준을 고려해야 합니다.

조정과 혁신은 공존할 수 있습니다. 특히 인간의 삶이 위태로울 때 더욱 그렇습니다.

핵기술의 경고

핵에너지는 사망률 측면에서 석유보다 600배 이상 안전하고 엄청난 효율성을 가지고 있지만, 오랜 핵 접근 방식으로 인한 결과 때문에 이를 도입하는 국가는 거의 없습니다.

세계는 원자폭탄과 수소폭탄의 형태로 핵기술에 대해 알고 있습니다. 이러한 무기를 통해 역사상 처음으로 인간은 인간 문명을 종식시킬 수 있는 기술을 개발했습니다. 이는 안전과 통제보다 속도와 혁신을 우선시한 군비 경쟁의 산물이었습니다.

이후 체르노빌과 후쿠시마 원자력 발전소 사고의 주요 원인인 기술적 안전 및 위험 관리의 실패로 인해 사람들이 원자력 에너지의 긍정적인 측면을 받아들일 수 있는 가능성이 사라졌습니다.

전반적으로 핵 에너지에 대한 유리한 위험성 평가와 수십 년 동안의 과학자들의 세계적 설득 노력에도 불구하고, '핵'이라는 개념 자체는 여전히 오염되어 있습니다.

기술이 초기 단계에 해를 끼치면 사회적 인식과 그에 따른 과잉 반응으로 인해 잠재적인 이점이 영구적으로 제한될 수 있습니다. 핵에너지의 초기 실수로 인해 인간은 깨끗하고 안전한 에너지원을 활용하지 못했으며, 탄소 중립과 에너지 안정성은 여전히 ​​비현실적인 꿈으로 남아 있습니다.

생명공학에 대한 올바른 접근 방식

그러나 어떤 분야에서는 인간이 옳은 결정을 내렸습니다. 생명공학은 그러한 분야 중 하나이며, 치료법이 없는 질병으로 인해 매일 많은 환자가 고통받고 많은 사람이 사망하는 상황에서 급속한 발전이 장려되고 있습니다.

이 연구의 정신은 '빠르게 움직여서 문제를 해결하는 것'이 아니라 가능한 한 신속하고 안전하게 혁신하는 것입니다. 인간은 사회와 개인의 복지를 보호하는 동시에 재앙으로 이어질 수 있는 반발로 인해 산업이 마비되는 것을 막기 위해 규제, 윤리, 규범 체계를 통해 이 분야의 혁신 속도를 제한합니다.

냉전 당시 생물무기금지조약에서 생물학 무기가 금지되었을 때, 적대적인 초강대국들은 그러한 무기를 만드는 것이 누구에게도 이익이 되지 않는다는 데 동의했습니다. 지도자들은 통제하기 어렵지만 접근성이 높은 이러한 기술을 군비 경쟁에서 승리하기 위한 메커니즘이 아니라 인류 자체에 대한 위협으로 여겨야 한다고 생각했습니다.

생물학 무기 개발 경쟁이 잠시 중단되면 인간은 책임감 있는 속도로 생물학 무기를 개발할 수 있게 됩니다. 과학자와 규제 기관은 인간에게 해를 끼칠 가능성이 있는 모든 새로운 혁신에 엄격한 기준을 적용합니다.

이러한 조정에는 비용이 들지 않았지만 청정 에너지부터 농업에 이르기까지 다양한 분야에 응용할 수 있는 생물경제가 확립되었습니다.

코로나19 팬데믹 동안 생물학자들은 mRNA 기술을 적용해 인류 역사상 전례 없는 속도로 효과적인 백신을 생산했습니다.

최근 AI 연구자를 대상으로 실시한 설문 조사에 따르면 응답자의 36%가 AI가 핵 재난 수준의 재앙을 일으킬 수 있다고 생각하는 것으로 나타났습니다. 하지만 정부의 대응과 조정은 느렸습니다. 이러한 속도는 기술 도입 속도와는 맞지 않습니다. ChatGPT 앱의 사용자 수는 현재 1억 명을 넘어섰습니다.

AI에 대한 위험이 급격히 커지면서 최근 미국에서는 CEO 1,800명과 교수 1,500명이 6개월간 AI 개발을 중단하고 규제와 위험 완화를 위한 긴급 절차를 시행할 것을 요구하는 서한에 서명했습니다. 이러한 일시 정지 기간 동안 글로벌 커뮤니티는 AI로 인한 피해를 제한하고 우리 사회에 돌이킬 수 없는 재앙이 되는 것을 예방할 시간을 얻게 될 것입니다.

AI의 위험과 잠재적 피해를 평가할 때, 이 기술의 긍정적인 잠재력도 고려해야 합니다. 우리가 지금 AI를 책임감 있게 개발한다면, 우리는 이 기술로부터 엄청난 이익을 얻을 수 있을 것입니다. 예를 들어, 약물 발견 및 개발에 AI를 적용하고, 의료의 질과 비용을 개선하고, 의사와 의료 서비스에 대한 접근성을 높이는 데 따른 이점이 있습니다.

구글의 딥마인드는 AI가 인간이 오랫동안 피해왔던 생물학적 문제의 근본적인 해결책을 제시할 수 있음을 보여주었습니다. 연구에 따르면, AI는 유엔의 모든 지속 가능한 개발 목표 달성을 가속화하여 인류를 더욱 건강하고 평등하며 번영하고 평화로운 미래로 이끌어갈 수 있습니다.

지금은 50년 전 생물무기금지협약에서 그랬던 것처럼, 전 세계가 힘을 합쳐 AI 개발이 안전하고 책임감 있게 이루어지도록 해야 할 때입니다. 우리가 빨리 행동하지 않는다면, AI로 인한 밝은 미래와 우리 사회의 미래가 모두 파괴될 수 있습니다.