로이터에 따르면, 11월 26일에 공개된 20페이지 분량의 문서에서 18개국은 AI 연구 및 응용 회사가 고객과 일반 대중을 남용으로부터 보호하는 방식으로 기술을 개발하고 배포해야 한다는 데 동의했습니다.

이 협정은 구속력이 없으며 주로 AI 시스템을 모니터링하여 남용을 탐지하고 방지하고, 데이터를 보호하고, 소프트웨어 공급업체를 검증하는 등 일반적인 권장 사항을 제시합니다.

하지만 미국 사이버보안 및 인프라 보안국(CISA) 국장인 젠 이스터리는 많은 국가가 AI 시스템이 안전을 최우선으로 해야 한다는 견해를 공유하는 것이 중요하다고 말했습니다.

이스터리는 로이터 통신에 "이번 일은 국가들이 함께 모여 이러한 역량이 단순히 기능의 매력성, 시장에 얼마나 빨리 출시할 수 있는지, 비용을 절감하기 위해 어떻게 경쟁할 수 있는지에 관한 것이 아니라는 점을 언급한 첫 번째 사례입니다."라고 말했습니다. 이 관계자는 이 지침이 "설계 단계에서 가장 중요한 것은 보안이라는 합의"를 나타낸다고 말했습니다.

이 협정은 전 세계 정부가 AI 개발을 촉진하기 위해 추진하는 일련의 이니셔티브 중 가장 최근의 것입니다. AI의 영향은 산업 전반과 사회 전반에 점점 더 크게 느껴지고 있습니다.

이 문서에서는 해커 공격으로부터 AI 시스템을 보호하는 방법에 대한 질문을 다루고 철저한 보안 테스트를 거친 후에만 새로운 모델을 출시하는 것과 같은 권장 사항을 포함합니다. 새로운 지침은 AI의 적절한 사용이나 이러한 모델에 필요한 데이터를 수집하는 방법과 같은 까다로운 문제는 다루지 않습니다.

AI의 등장으로 많은 우려가 제기되었는데, 그중에는 AI가 민주주의 과정을 방해하고, 사기를 조장하거나, 대량 실업을 초래할 수 있다는 우려도 있습니다.

유럽은 AI 관련 규정을 제정하는 데 있어 미국보다 앞서 있습니다. 프랑스, 독일, 이탈리아도 최근 AI의 기본 모델과 관련하여 해당 부문을 규제하는 방법에 대한 합의에 도달했습니다.

바이든 행정부는 의원들에게 AI 규제에 대해 압력을 가했지만, 심각하게 양극화된 의회는 효과적인 규제를 통과시키는 데 거의 진전을 이루지 못했습니다.

백악관은 10월에 새로운 행정명령을 통해 국가 안보를 강화하는 한편, 소비자, 근로자, 소수민족에 대한 AI 위험을 완화하고자 했습니다.