온라인에서 돈을 사기하기 위해 가짜 이미지와 음성을 만드는 AI에 주의하세요

응우옌 탄 흐엉(가명)은 하노이 의 사무직 직원입니다. 페이스북 메신저로 친구와 통화하던 중 흐엉의 친구는 작별 인사를 하고 대화를 끊었지만, 갑자기 문자 메시지로 돌아와 돈을 빌리고 은행 계좌로 이체해 달라고 제안했습니다.

계좌 이름이 친구 이름과 일치했지만, 흐엉은 여전히 의심스러워서 영상 통화로 확인을 요청했습니다. 친구는 즉시 동의했지만, 친구의 설명에 따르면 "인터넷 지연"으로 인해 통화는 몇 초밖에 이어지지 않았습니다. 영상 통화에서 친구의 얼굴과 목소리를 본 흐엉은 더 이상 의심하지 않고 돈을 송금했습니다. 하지만 송금이 성공적으로 이루어진 후에야 흐엉은 자신이 해커의 함정에 빠졌다는 것을 깨달았습니다.

흐엉뿐만 아니라 흐엉 친구의 친구 및 친척 등 다른 많은 피해자들도 같은 방식으로 사기를 당했습니다. 악당들이 페이스북 계정에서 훔친 금액은 최대 수천만 동(약 1억 2천만 원)에 달합니다.

2023년 하반기, 보안 회사 Bkav는 피해자들로부터 유사한 사기에 대한 신고와 도움 요청을 지속적으로 받았습니다. Bkav 전문가들에 따르면, 흐엉의 경우 악의적인 해커들이 페이스북 계정을 장악했지만 즉시 완전히 장악하지는 않고, 은밀히 추적하며 피해자인 척하고 친구와 가족에게 돈을 빌릴 기회를 노렸습니다. 그들은 AI를 사용하여 페이스북 계정 소유자의 얼굴과 음성을 합성한 가짜 영상(딥페이크)을 만들었습니다. 본인 확인을 위해 화상 통화를 요청받자, 통화에 응했지만 발각되지 않기 위해 재빨리 통화를 끊었습니다.

Bkav 안티맬웨어 연구 센터의 응우옌 티엔 닷(Nguyen Tien Dat) 소장은 "AI를 통해 사용자 데이터를 수집하고 분석할 수 있게 되면 정교한 사기 전략을 수립할 수 있습니다. 이는 또한 딥페이크와 GPT를 결합할 경우 사기 시나리오의 복잡성이 증가하여 사기 탐지가 훨씬 더 어려워진다는 것을 의미합니다."라고 말했습니다.

Bkav는 사용자들에게 특히 주의를 기울여 개인 정보(신분증, 은행 계좌, OTP 코드 등)를 제공하지 말고, 전화, 소셜 네트워크, 사기 징후가 있는 웹사이트를 통해 낯선 사람에게 자금을 이체하지 말 것을 권고합니다. 소셜 네트워크를 통해 계좌로 자금을 빌리거나 이체하려는 요청이 있는 경우, 전화 또는 기타 통신 채널을 통해 확인하는 등 다른 인증 방법을 사용해야 합니다.