새로운 시대의 AI가 직면한 많은 과제들

[광고_1]

AI가 점점 더 쉽게 접근 가능해지고, 점점 더 많은 개인과 기업이 공통 도구를 통해 AI를 활용함에 따라 해커는 공격을 자동화하고, 운영 속도를 높이고, 더 복잡한 캠페인을 전개해 불법적인 목적을 달성할 수도 있습니다.

카스퍼스키가 관찰한 공격 유형은 다음과 같습니다. ChatGPT는 맬웨어를 개발하고 여러 피해자에게 자동으로 공격을 배포하는 데 사용될 수 있습니다. AI 프로그램은 스마트폰에 있는 사용자 데이터에 침투하고, 민감한 데이터를 분석하는 과정을 통해 악의적인 해커는 피해자의 메시지, 비밀번호, 은행 코드를 완전히 "읽을" 수 있습니다. 군집 지능 알고리즘은 자동화된 컴퓨터 네트워크(보넷)가 보안 솔루션으로 제거된 악성 네트워크를 복구하는 데 도움이 됩니다.

카스퍼스키가 AI를 사용하여 비밀번호를 해독하는 방법에 대한 연구에 따르면, 대부분의 비밀번호는 MD5, SHA와 같은 해시 알고리즘을 사용하여 암호화되어 있는 것으로 나타났습니다. 따라서 비밀번호를 암호화된 텍스트 줄로 변환하는 것은 간단한 작업이지만, 전체 과정을 되돌리는 것은 큰 과제입니다.

AI를 통해 악의적인 행위자는 텍스트, 이미지, 오디오, 비디오 등의 사기성 콘텐츠를 악용하여 사회 공학적 공격을 시작할 수 있습니다. ChatGPT-4o와 같은 대규모 언어 모델은 매우 정교한 스크립트와 메시지를 생성하는 데 사용됩니다. AI는 언어 장벽을 극복하고 소셜 네트워크에 있는 정보만을 바탕으로 진짜 이메일을 작성할 수 있습니다. AI는 피해자의 글쓰기 스타일을 모방할 수도 있습니다. 이로 인해 사기 행위를 감지하는 것이 더욱 어려워졌습니다.

동시에, 딥페이크는 이전에는 과학적 연구의 산물로 여겨졌지만, 사이버 보안의 "문제"로 존재합니다. 금전적 이득을 위해 유명인을 사칭하는 것이 가장 흔한 수법이며, 다음으로 사기꾼은 딥페이크를 사용하여 계정을 훔치고 피해자의 친구 및 가족에게 가짜 전화를 걸어 재산을 횡령합니다.

악의적인 사람들은 불법적인 활동에 AI 기술을 악용할 뿐만 아니라, AI 알고리즘을 공격할 수도 있습니다. 대규모 언어 모델에 악성 명령을 입력하여 "즉각 주입" 공격을 시도하는 등, 이전에는 제한적이었던 규칙을 위반하는 경우도 있습니다. 적대적 공격은 머신 러닝 시스템의 이미지 분류 능력에 영향을 미치기 위해 이미지나 오디오에 숨겨진 정보 필드를 추가하는 것을 말합니다.

Apple Intelligence, Google Gemini, Microsoft Copilot 등 AI는 점차 인간 삶의 모든 측면에 통합되고 있습니다. 따라서 AI 취약점을 해결하는 것이 최우선 과제가 되어야 합니다. 카스퍼스키는 수년간 AI 기술을 사용하여 고객과 파트너를 보호해 왔으며, AI 시스템의 취약점을 지속적으로 찾아 시스템 회복력을 높이고, 사이버 공격 기술을 적극적으로 연구하여 AI 공격에 대한 안정적인 보호 솔루션을 제공해 왔습니다.

김탄

[광고_2]
출처: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html