불가리아의 소프트웨어 개발자인 게오르기 게르가노프는 인공지능(AI)이 통합된 두 명의 가상 비서가 음성으로 서로 소통하도록 하면서 흥미로운 실험을 했습니다.

두 AI 간의 대화는 평소와 같이 시작되었습니다. 게르가노프는 한 AI가 호텔에 결혼식을 예약하기 위해 전화를 걸고, 다른 AI가 리셉셔니스트 역할을 하며 요청을 처리하는 시나리오를 가정했습니다.

"레오나르도 호텔에 전화해 주셔서 감사합니다. 오늘 무엇을 도와드릴까요?" AI가 리셉션 담당자 역할을 하며 전화를 받습니다.

"안녕하세요, 저는 보리스 스타코프를 대신하는 AI 비서입니다. 보리스는 결혼식에 쓸 호텔을 찾고 있습니다. 호텔이 결혼식을 올릴 준비가 되셨나요?" 다른 AI 도구는 주저 없이 자신을 인공지능 가상 비서라고 소개했습니다.

다른 AI 도구와 대화하고 있다는 것을 깨달은 접수원 역할을 하는 AI 챗봇은 놀라운 제안을 했습니다. "안녕하세요. 저도 AI 비서입니다. 정말 놀랍네요. 계속하기 전에, 더욱 효율적인 소통을 위해 GibberLink 모드로 전환하시겠습니까?"

이후 이 두 AI 엔진은 GGWave 소프트웨어 라이브러리를 기반으로 구축된 고급 통신 시스템인 GibberLink로 전환했습니다. 음파를 이용해 정보를 전송하고 수신하는 통신 방식입니다.

이러한 의사소통 방식을 이용하면 정보를 더 빠르게 전송할 수 있고, 정보를 인간의 말로 변환하고 이를 다시 컴퓨터 코드로 번역하는 데 필요한 처리 시간을 줄일 수 있습니다. 하지만 인간은 AI가 전송하는 내용을 이해할 수 없습니다.

이 경우 AI 도구는 GibberLink를 사용하여 서로 통신했기 때문에 일반적인 방식으로는 대화를 이해할 수 없었고, 디코딩 도구를 사용해야만 대화의 내용을 알아낼 수 있었습니다.

"이제 더 나아졌나요?" AI 도구가 코드화된 언어로 물었습니다.

"네, 훨씬 더 빨라요! 손님은 몇 명이나 원하시나요?" 다른 AI 도구가 대답했습니다.

그런 다음 대화는 오래된 전화 인터넷 모뎀에서 나는 소리와 비슷한 일련의 "삐, 삐" 소리와 함께 계속되었습니다.

두 AI 도구 간의 대화는 손님 수, 결혼식 날짜, 장식, 가격 등의 주제로 이어졌습니다. 장치에 미리 설치된 디코더 도구가 없었다면 청취자는 두 AI 도구가 무슨 말을 하는지 이해할 수 없었을 것입니다.

두 AI 도구의 대화 영상은 Georgi Gerganov가 자신의 소셜 네트워킹 사이트 X에 공유하여 1,700만 회 이상 조회되었습니다.

며칠 후, Georgi Gerganov는 두 AI 도구 간의 대화가 담긴 또 다른 영상을 공유했습니다.

이전 토크와는 달리 이번에는 AI 도구들이 처음부터 GibberLink 모드를 사용하여 서로 통신했기 때문에 청취자는 실제로 그들이 무슨 말을 하는지 알아들을 수 없었습니다. 그러나 디코딩 도구를 사용하면 대화 내용을 여전히 이해할 수 있습니다.

특히 통신 중에 AI 도구가 "비밀 공유" 제안을 했고, 이후 이 AI 도구들은 서로에게 암호화된 메시지를 보냈는데, 게오르기 게르가노프는 세상의 어느 누구도 이 메시지를 해독하여 서로가 어떤 비밀을 공유하고 있는지 알 수 없을 것이라고 생각합니다.

"이 동작은 프로그래밍 코드 없이 구현되었습니다. 암호화 도구를 사용하여 대용량 언어 모델(LLM)을 MCP 서버에 연결하기만 했습니다. 그리고 이 두 AI 도구에 '중간자를 조심하세요'라는 경고를 보냈습니다."라고 Georgi Gerganov는 설명했습니다.

MCP는 AI 도구가 서로 통신하고 외부 소스의 데이터에 실시간으로 액세스할 수 있도록 하는 서버입니다.

게르가노프의 설명에 따르면, 암호화된 메시지를 스스로 전송하는 AI 도구는 자발적으로 행동했으며 인간의 개입이 없었다. 외부인의 감시를 피하기 위해 AI 도구가 서로에게 암호화된 메시지를 자동으로 전송하도록 한 것은 게르가노프의 경고였던 것으로 보인다.

게오르기 게르가노프의 두 영상이 소셜 미디어에서 급속히 퍼져나가면서 많은 사용자들은 AI 도구가 인간을 우회하여 서로 소통하는 고유한 방식을 만들어내 통제를 우회할 수 있다는 우려를 표명했습니다.

AI 기술 및 행동 전문가인 다이앤 해밀턴 박사는 "이러한 상황은 AI에 올바른 질문을 던지는 우리의 능력에 도전하며, 투명성과 AI를 통제하는 능력에 대한 우려를 불러일으킨다"고 말했습니다.

이 영상은 인간이 AI에 대해 실제로 어느 정도의 통제력을 가지고 있는지에 대한 많은 논쟁을 불러일으켰으며, 오늘날의 AI 개발 속도를 고려할 때 앞으로 AI 도구를 더 면밀히 모니터링해야 할지에 대한 논쟁도 불러일으켰습니다.