연구자들은 "의도 경제"라는 새로운 개념을 만들어냈습니다. 이러한 경제에서 기업은 우리의 행동, 선호도, 습관에 대한 엄청난 양의 데이터를 수집하고 분석하여 우리가 다음에 무엇을 할지 예측할 수 있습니다.

그런 다음 그들은 우리에게 더욱 정확하게 광고를 타겟팅하고자 하는 다른 회사에 이 정보를 판매할 수 있습니다.

예를 들어, 새로운 휴대전화를 찾고 있다고 가정해 보겠습니다. AI는 사용자의 온라인 행동, 검색 키워드, 심지어 대화 내용까지 추적하여 사용자의 요구 사항을 더 잘 이해합니다. 휴대전화 제조업체는 이 정보를 사용하여 사용자에게 가장 적합한 휴대전화에 대한 광고를 보여줄 수 있습니다.

케임브리지 대학교의 기술 역사학자인 조니 펜 박사는 "의도 경제가 통제되지 않으면 우리의 결정을 조작하는 도구가 될 수 있다"고 경고했습니다. "기업은 AI를 이용해 우리에게 필요 없는 제품을 사게 만들거나, 심지어 우리의 투표 결정에 영향을 미칠 수도 있습니다."

저자는 AI 모델이 광고주, 기업 및 기타 제3자에게 서비스를 제공하기 위해 대화를 탐색할 것이라고 말했습니다. 광고주는 AI가 생성한 도구를 사용하여 주문형 온라인 광고를 제작할 수 있습니다.

보고서는 메타가 만든 AI 모델인 시세로(Cicero)를 예로 들며, 이 모델이 보드 게임 외교(Diplomacy)를 플레이할 수 있는 "인간 수준"의 능력을 달성했다고 밝혔습니다. 저자는 이 게임이 상대방의 의도를 추론하고 예측하는 데 의존한다고 말합니다.

기술 분야의 주요 전문가들은 AI가 인간의 행동을 예측하고 영향을 미칠 수 있는 능력에 대해 경고했습니다.

특히, 엔비디아 CEO 젠슨 황은 작년 연설에서 주목할 만한 관점을 공유했습니다. 그는 고급 AI 모델이 "사용자의 의도, 바람, 하려는 일을 파악해 최적의 방식으로 정보를 제공할 수 있을 것"이라고 믿습니다.

Hoang Anh (CUN, Nvidia, Guardian에 따르면)