잠재력에는 위험이 따른다

인공지능(AI)이 근로자를 지원하고 인간의 삶을 편리하게 하는 강력한 도구임이 점차 입증되고 있다는 사실은 부인할 수 없습니다. 그러나 이러한 기술 제품은 악의적인 사람들이 사이버 공간에서 사기를 저지르고 공격하는 데 악용될 경우 "양날의 검"과 같습니다.

정보통신부 정보보호국이나 사이버보안협회에서 발행한 경고 게시판에는 AI 기술을 이용한 사기 사례가 다수 등록되어 있습니다. 예를 들어, 하노이의 사무직 근로자인 응우옌 탄 티 씨는 페이스북 메신저로 친구와 통화하던 중, 친구가 작별 인사를 하고 대화를 끝냈지만 갑자기 문자 메시지로 돌아와 돈을 빌리고 싶다고 하면서 은행 계좌로 돈을 이체하라고 제안했습니다. 계정 이름이 친구의 이름과 일치했음에도 불구하고 T 씨는 의심스러워서 영상 통화를 요청해 확인을 받았습니다. 친구는 즉시 동의했지만 "네트워크 불안정"으로 인해 통화는 몇 초만 지속되었습니다.

영상 통화에서 친구의 얼굴을 보고 목소리가 맞는 것을 확인한 T 씨는 돈을 이체했습니다. 하지만 그녀는 돈을 이체한 후에야 해커의 함정에 빠졌다는 사실을 깨달았습니다.

T씨뿐만 아니라 다른 많은 피해자, 친구, 친척들도 같은 방식으로 속았습니다. 악당들이 딥페이크 도구와 음성을 이용해 사칭하여 훔친 돈의 규모는 수천만 동에 달합니다.

AI를 이용해 자산을 횡령한 또 다른 전형적인 사례는 NTH 씨의 경우입니다. 사기꾼은 안드로이드 휴대폰을 사용할 때 악성 링크를 설치하라는 지시로 함정을 설치합니다. 이를 통해 휴대폰과 은행 계좌를 제어해 제3자에게 돈을 이체합니다. 또한, 이 맬웨어는 자동으로 사용 가능한 연락처 정보에 접근하여 자금 이체를 요청하는 자동 메시지를 보냅니다.

NTH 씨는 사칭범이 자신을 "경찰관"이라고 사칭하고, 그의 전화번호로 전화를 걸어 개인 식별 정보를 확인해 달라고 요구했다고 말했습니다. 피해자는 나이가 많고 기술에 익숙하지 않으며 속기 쉬웠기 때문에 사기꾼의 지시를 따르도록 자신의 휴대전화를 제3자에게 건네주었고, 그 결과 그의 휴대전화에 악성 애플리케이션 "DichVuCong.apk"가 다운로드되어 설치되었습니다.

정보시스템 보안부(정보보안부)의 쩐 응우옌 청(Tran Nguyen Chung) 씨는 "AI 기술이 발전하면 사이버공간에서 진짜와 가짜 콘텐츠를 탐지하고 구별하는 것이 더욱 어려워질 것이며, 누구나 AI 기술을 이용하는 범죄자들의 사이버 공격의 표적이 되고 피해자가 될 수 있다"고 말했습니다. 하지만 피해자가 될지 여부는 필요한 지식과 정보를 얼마나 잘 갖추느냐에 달려 있습니다.

이러한 AI 기술 사기 상황은 베트남뿐만 아니라 세계 여러 나라에서 나타나고 있습니다. 현재, 기관, 조직 및 대형 기술 기업들은 이를 근본적으로 탐지하고 예방하기 위한 대책과 기술적 솔루션을 찾기 위해 협력하고 있습니다.

현재 중요한 대책은 선전을 촉진하고, 사람들이 이 정교한 형태의 위조를 인식하고 처리하는 방법, 수법, 속임수에 대한 인식을 높여 딥페이크가 사이버 공간의 활동에 미치는 영향을 줄이고 제한하는 것입니다. 새로운 사기 유형이나 사기 현상이 발견되면 대중 매체를 통해 적극적으로 경고를 발표합니다.

Tran Nguyen Trung 씨는 "민감한 사진이나 영상이 담긴 위협적인 전화를 받은 경우, 사람들은 침착함을 유지하고, 사진과 영상의 출처를 확인하고 신중하게 조사해야 합니다."라고 말했습니다.

하노이 국립대학교 경제대학(UEB)의 연구 보고서 "2024년 세계 경제의 위험 식별"에 따르면, 세계 경제에 영향을 미치는 위험 중 하나는 기술 분야의 위험입니다. 보고서는 AI가 급속히 부상하는 상황에서 규제 정책이 아직 AI 발전 속도를 따라가지 못하고 있다고 주장합니다. 특히 올해처럼 전 세계적으로 많은 선거가 치러지는 해에는 AI가 생성하는 잘못된 정보가 전 세계적으로 안보, 정치, 국방, 평화에 많은 문제를 야기하고 있습니다.

틴뚝(Tin Tuc) 신문 기자들과의 인터뷰에서 응우옌 황 지앙(Nguyen Hoang Giang) 과학기술부 차관은 다음과 같이 말했습니다. "총리는 2030년까지 인공지능(AI)의 국가 연구 전략, 개발 및 적용에 관한 결정 제127/2021호를 발표했습니다. 이를 이행하기 위해 과학기술부를 비롯한 여러 부처가 과감하고 동시적으로 시행해 왔습니다. 법무부는 법률 분야를, 정보통신부는 디지털 기술을 연구하고 있습니다. 과학기술부는 또한 산업 4.0을 지원, 연구 및 개발하고, 정보 기술 개발을 연구 및 적용하여 디지털 및 스마트 시티 개발을 지원해 왔습니다. 그러나 AI의 급속하고 강력한 발전과 함께 사기, 사칭, 위협, 재산 강탈 등의 목적으로 사이버 범죄자의 도구로 악용될 경우 AI의 부정적인 측면과 위험도 나타났습니다.

지금까지 과학기술부와 정부는 연구와 더불어 다른 선진국의 경험을 참고하여 법적 틀을 적극적으로 구축해 왔습니다. 이를 통해 베트남의 AI 분야가 잠재력을 발휘하고 개발을 촉진하는 동시에 인공지능 분야에서 윤리와 인간성을 엄격하게 통제하고 보장할 수 있게 되었습니다.

AI 도구의 급속한 발전은 인권, 윤리, 개인정보 보호, 정보 보안 및 법적 책임과 관련하여 많은 문제를 제기했습니다. 베트남은 전 세계와 비교했을 때 아직 AI 개발 초기 단계에 있습니다. 따라서 베트남의 삶, 경제, 사회의 모든 측면에 적합한 구체적인 AI 규정과 정책이 필요합니다.

긴급하게 법적 틀을 마련하라

AI의 어두운 면을 관리하는 것 역시 일부 국가에서 논의되는 주제입니다. 유럽연합 의회는 인공지능을 규제하는 기본 규칙을 세계 최초로 승인했습니다. 많은 기술 전문가들은 이 규정이 EU가 두 가지 목표, 즉 기술 개발이 사용자에게 미치는 부정적 영향을 최소화하는 것과 동시에 시장에서 주요 경쟁자의 지배적 위치를 따라잡는 것을 모두 달성하는 데 도움이 될 것이라고 믿습니다.

얼마 지나지 않아 유엔 총회는 인공지능(AI)에 관한 결의안을 채택하여, 이 새로운 기술이 모든 국가에 이익이 되고 인권을 존중하며 "안전하고 보안성이 확보되며 신뢰할 수 있도록" 보장하는 국제적 노력에 대한 글로벌 지원을 제공했습니다.

국가 사이버 보안 기술 주식회사(National Cyber ​​Security Technology Joint Stock Company)의 기술 이사인 부 응옥 손(Vu Ngoc Son) 씨는 다음과 같이 말했습니다. "AI는 인간의 이익에 부합하는 기술로, 다양한 운영 단계의 자동화를 지원합니다. 이는 Q&A 서비스 제공, 소프트웨어 제작 등 다양한 목적으로 사용되는 강력한 도구입니다. 하지만 AI는 사용자를 공격하기 위해 사기성 콘텐츠와 악성 코드를 제작하려는 악의적인 행위자의 손에 넘어갈 경우 부정적인 측면도 있습니다. 따라서 AI는 단순히 제품 개발이나 범죄를 위한 도구가 아니라, AI를 "어떻게 활용하느냐"가 중요한 문제입니다.

"제재와 법적 통로가 AI 발전 속도에 제대로 부응하지 못하고 있다고 생각합니다. AI가 인권뿐 아니라 안보, 질서, 사회 안전 문제에 영향을 미치는 악의적인 목적으로 사용될 경우 위험을 제한하는 정책을 수립하고 도입하는 데는 시간이 필요합니다."라고 부 응옥 손 씨는 말했습니다.

CMC ATI 연구소 소장인 당 민 투안 박사는 다음과 같이 말했습니다. "한편으로는 새로운 기술을 연구 개발하고, AI를 악용하는 수법을 업데이트하고 연구해야 합니다. 다른 한편으로는 과학과 업무에 있어서 정직성을 장려해야 합니다. 따라서 베트남에서는 이 도구에 대한 콘텐츠 및 구체적인 정책에 대한 조정과 투자가 필요합니다. 특히 AI 도구를 활용하여 악성 콘텐츠와 코드를 탐지할 수 있습니다. AI는 "양날의 검"과 같이 지속적이고 지속적으로 개선되는 프로세스를 구축하여 궁극적으로 인간의 이익에 기여하는 것을 목표로 합니다."

전문가들은 첨단 기술 제품의 개발을 책임감 있게 통제하는 것이 중요하다고 말한다. 기술을 규제하고 숙달하지 못하면 예측할 수 없는 결과가 초래되어 경제에 손실을 초래하고 개인은 물론 사회 전체에 영향을 미치기 때문이다.

구체적이고 투명한 규정을 발표하는 것은 AI가 초래할 수 있는 위험을 예방하고 최소화하는 데 도움이 될 뿐만 아니라, 베트남이 세계 유수의 기술 기업의 주목과 투자를 유치하는 데 도움이 되며, 국내 정보기술 및 AI 산업의 발전을 촉진합니다.

최종 논문: AI의 병렬 개발 및 제어