제안된 유럽연합(EU) 인공지능(AI)법이 논란을 불러일으키고 있다. (출처: CNN)

다음 질문에 답하면 그림이 좀 더 명확해질 것입니다.

힘의 균형

첫 번째 질문은 AI가 국가 간 힘의 균형을 어떻게 바꿀 것인가입니다. 그러면 국가 간의 힘의 격차가 줄어들 것인가, 아니면 몇몇 대국에 더 많은 힘이 집중될 것인가?

역사적으로 국력은 종종 경제적 잠재력과 군사력으로만 측정되어 왔습니다. 미래에는 AI 기술을 개발하고 이를 국가 거버넌스 장치에 응용, 통합하는 능력이 상당한 이점을 창출하여 장치가 보다 원활하고 효과적이며 안정적으로 운영될 수 있을 것입니다. 이는 미국과 중국 등 기술 경쟁을 선도하는 국가에 큰 도움이 될 가능성이 높습니다. 이 두 나라는 경제, 군사, 외교, 사회 거버넌스 등 핵심 분야에서 전략적 이점을 얻기 위해 AI를 활용해 왔습니다.

따라서 AI는 소수의 국가에 권력을 집중시킬 뿐, 분산화하지는 못할 것입니다. 왜냐하면 막대한 양의 데이터와 AI 시스템을 지속적으로 효과적으로 운영하고 업데이트할 수 있는 기술 및 재정 인프라를 모두 보유한 국가는 극소수에 불과하기 때문입니다. 이 두 초강대국이 이미 AI 분야에서 갖고 있는 압도적인 이점은 국제 무대에서 이들의 입지를 강화하여, 현재 질서가 다극화로 전환되는 것을 막을 수 있을 것입니다. 전반적으로 AI는 진보된 AI 기술을 보유한 국가와 나머지 국가 간의 격차를 더 벌릴 수 있습니다.

하지만 이 결과는 확실하지 않습니다. AI가 국가 간 힘의 균형에 미치는 영향에는 여러 가지 요소가 영향을 미칠 수 있습니다. 하나는 중소 규모 국가에서 AI 분야의 예상치 못한 획기적인 발전이 일어나면서 대국들의 AI '독점'이 눈에 띄지 않게 깨지는 것입니다. 고려해야 할 두 번째 요소는 국가별로 AI 도입 및 통합 속도가 다르다는 것입니다. 소규모 국가는 뒤처져 최첨단 AI 시스템을 구축할 수 없을지 몰라도 이론상으로는 대규모 국가보다 AI 기술을 더욱 효과적이고 현명하게 활용할 수 있습니다.

AI 시대의 무력 충돌

두 번째 질문은 AI가 무력 충돌의 가능성과 강도를 어떻게 바꿀 것인가입니다. 다시 말해, AI 세계에서 갈등은 더 자주 발생할까요, 덜 발생할까요? 그리고 사상자는 더 많을까요, 더 적을까요?

군대에서 AI가 등장하면서 미래의 무력 충돌에 대한 역설이 생겨났습니다. 한편, AI는 전쟁에서 사상자를 크게 줄일 수 있습니다. 정밀한 표적 지정 기술과 의사결정에 알고리즘을 활용하면 그 어느 때보다 더 정밀한 전쟁이 가능해져 양측의 피해가 최소화될 수 있습니다.

하지만 AI가 무력 충돌을 "더 저렴하고" "깨끗하게" 만들면 국가가 무력 충돌에 점점 더 많이 개입하게 될 수 있습니다. 양측의 사상자 위험이 크게 줄어들면 더 많은 전쟁이 일어날 가능성이 높습니다. AI 기반 전쟁이 빠르고 효과적이며 명확한 결과를 약속한다면 지도자들은 군사적 옵션을 사용할 의향이 더 강해질 수 있습니다.

그럼에도 불구하고 AI가 갈등의 빈도와 강도에 미치는 영향은 복잡하고 다면적일 것입니다. 전쟁이 확대될 위험은 여전히 ​​존재하며, 인간의 판단과 책임을 적절히 고려하지 않고 AI 기반 전쟁에 참여하는 국가에 대한 국제적 반발 가능성도 존재합니다. 더욱이 잠재적인 법적 틀을 통한 국제 사회의 대응은 AI가 군사 작전에 통합되는 정도를 규제할 수도 있습니다.

글로벌 문제 해결

세 번째 질문은 다음과 같습니다. AI가 기후 변화와 같은 세계적 문제를 해결하는 데 인간이 큰 도움을 줄 수 있을까요?

AI는 많은 분야에서 획기적인 솔루션을 제공할 수 있기 때문에 글로벌 과제를 해결하는 데 엄청난 잠재력을 가지고 있습니다. AI는 탁월한 데이터 처리 능력을 통해 다양한 형식과 엄청난 양의 정보를 종합하여 기후 변화와 같은 긴급한 세계적 문제를 해결하기 위한 적절한 전략을 고안할 수 있습니다.

ChatGPT와 생성적 AI 도구의 등장은 인공지능 개발 분야에 있어서 큰 획기적인 진전을 의미합니다. (출처: 인터넷)

AI는 지속적으로 데이터를 분석하여 높은 정확도로 환경 변화를 예측하고, 에너지 소비를 최적화하며, 탄소 배출을 줄이는 혁신적인 방법을 개발할 수 있습니다. 공중 보건 분야에서 AI는 전염병과 팬데믹의 확산을 막는 '방벽' 역할을 할 수 있습니다. 이를 통해 예측 속도와 정확성이 향상되고, 공중 보건 데이터를 활용하여 질병 발생을 신속하게 통제하고, 가장 필요한 곳에 백신을 신속하게 배포할 수 있습니다.

더욱이 AI는 글로벌 과제 해결에 기여하여 국제 안보와 인도적 지원으로 확장될 잠재력을 가지고 있습니다. 이는 갈등 지역을 모니터링하고, 난민 흐름을 예측하고, 가장 큰 피해를 입은 지역에 대한 원조 제공을 최적화하는 데 도움이 될 수 있습니다. 따라서 AI는 국제 협력 및 원조 분배를 위한 새로운, 보다 빠르고 효율적인 시스템의 "중추" 역할을 하여 인도적 재난에 대한 대응 시간을 줄이고 이러한 대응의 효과성을 향상시킬 수 있습니다.

AI 제어: 가능할까?

마지막이자 아마도 가장 중요한 질문은 다음과 같습니다. 국가들이 너무 늦기 전에 AI를 규제하기 위한 국제적 합의에 도달할 수 있을까요?

리시 수낙 재무장관이 이끄는 영국은 최근 인공지능(AI) 안전에 대한 첫 번째 글로벌 정상회의를 개최했습니다. 이는 인공지능과 관련된 위험을 관리하는 데 있어 국제 협력을 향한 중요한 진전입니다. 그 결과, AI에 대한 안전 프로토콜을 수립하기 위한 정치 지도자와 기술 회사 간의 단일 전선뿐만 아니라, 치열하게 경쟁하는 두 기술 초강대국인 미국과 중국 간의 단일 전선도 형성되었습니다.

세계 최초의 인공지능(AI) 정상회의가 2023년 1월 2일 영국 북런던 블레츨리에서 개최되었습니다. (출처: 유로뉴스)

하지만 이번 정상회담은 단지 상징적인 첫 단계에 불과합니다. 앞으로 국가들이 AI를 통제하기 위한 의미 있는 합의에 도달할 수 있는 능력은 여러 요소의 복잡한 상호작용에 달려 있습니다.

AI 분야에서 선두주자와 뒤처진 국가가 이해관계가 명확히 상충될 때 공통점을 찾는 것이 중요합니다. 강대국은 경제적 이득과 패권 유지를 위해 AI 활용을 우선시하는 반면, 약대국은 엄격한 규제를 선호할 것입니다. 그러나 화학무기금지조약(CWC)과 같은 선례가 있는데, 이는 치열한 경쟁 속에서도 잠재적으로 위험한 기술을 제한하기 위해 협력하는 이점이 그 기술이 통제되지 않고 개발되는 것을 방치하는 이점보다 클 때 공통점을 찾을 수 있음을 보여줍니다.

또한, 국제사회의 감시역량을 강화하는 것도 필요하다. AI 개발의 빠른 속도에 적응할 수 있는 통제 수단을 확립하려면 전례 없는 수준의 기술적 전문성과 국가 간의 협력이 필요합니다. AI 연구 개발의 투명성은 규정 준수를 보장하는 데 가장 중요하며, 이는 핵무기 통제 조약의 핵심이 테스트 프로토콜인 것과 같습니다.

마지막으로 가장 중요한 것은 대중의 인식입니다. 결국, 리더들은 자신의 국민이 요구할 때 결단력 있게 행동하려는 동기를 가장 많이 갖게 됩니다. 모든 국가의 국민이 AI 안전을 보장하기 위해 정부가 실질적인 조치를 취하도록 지지한다면, 각국은 이 엄청나게 야심찬 노력에 협력할 동기를 갖게 될 것입니다. 그렇지 않으면 우리는 AI 열풍에 압도당할 위험이 있습니다.