2025년의 새로운 AI 트렌드

책임감을 키우는 것은 AI를 더 유용하게 만드는 데 중요한 요소입니다. 일러스트: 블룸버그.

생성적 AI는 많은 분야를 변화시키고 있습니다. 교육 분야에서 AI는 학습을 지원하고, 표절을 감지하고, 수업을 보조합니다. 의료 분야에서 AI는 영상 진단, 개인 맞춤형 치료 계획, 약물 연구를 지원합니다. 이 도구는 자동 콘텐츠 생성을 촉진하고, 고객 관리를 지원하며, 비즈니스와 마케팅에서 "가상 KOL"을 생성합니다.

이러한 이점과 함께 생성적 AI의 확산은 윤리적 문제도 제기합니다. 이 도구가 편견을 증폭시키고 잘못된 정보를 퍼뜨릴 수 있기 때문입니다. AI는 개인정보 보호, 데이터 보안, 인력 안정성을 해칠 가능성도 있습니다.

전 세계 많은 국가와 마찬가지로 베트남도 생성적 AI 적용 분야에서 부상하고 있습니다. AI를 인간에게 해로운 도구가 아닌 유용한 도구로 만들기 위해서는 AI를 책임감 있게 개발하는 것이 중요한 과제 중 하나입니다.

책임 있는 AI 트렌드

RMIT 베트남 캠퍼스의 정보기술 부문 수석 강사인 샘 구나우더 박사는 생성적 AI의 윤리를 둘러싼 몇 가지 논란을 다시 한번 강조했습니다. 테일러 스위프트 가짜 포르노 스캔들부터 전 미국 대통령 조 바이든의 사칭 전화 사건, AI를 이용한 학술 사기 사건까지.

더욱 우려되는 것은 채팅봇이 자살을 부추기거나, 아동 학대 콘텐츠를 만들거나, 암살을 조장하거나, 편향된 채용 알고리즘을 사용하거나, AI가 보안 취약점을 악용하는 사례입니다.

이러한 문제는 AI 오용을 완화하고 개인 및 사회적 이익을 보호하기 위해 인간 중심적인 접근 방식이 필요함을 강조합니다."라고 Goundar 박사는 공유했습니다.

AI는 창의적이다, AI는 책임감이 있다, AI는 윤리적이다, AI의 위험성 1

Microsoft Copilot 도구 화면. 사진: 블룸버그.

Goundar 박사에 따르면 2025년에는 책임감 있고 인간 중심적인 AI가 추세를 보일 것으로 예상됩니다. 편견, 잘못된 정보, 윤리적 위험에 대한 우려가 커지면서, AI가 어떻게 결정을 내리는지 사용자가 이해하는 데 도움이 되는 투명한 AI(XAI) 기술이 우선시되고 있습니다.

미국, 캐나다, 호주, 중국, 일본 등 여러 국가에서는 산업 전반에 걸쳐 윤리적인 AI 배포를 관리하고 보장하기 위해 AI 규정을 채택하기 시작했습니다.

또 다른 추세는 AI와 인간을 결합한 모델인 하이브리드 AI로, 이 역시 2025년에 발전할 가능성이 있습니다.

지속 가능한 개발 측면에서 AI는 기후 변화에 대처하고 친환경 기술을 장려하는 데 도움이 될 수 있습니다. 또한 AI는 사이버 보안에 적용 범위를 확대하여 디지털 공간에서 위험을 분석하고 위협에 대응하는 능력을 향상시키는 데 도움이 될 것입니다.

Goundar 박사는 "AI 도입이 가속화됨에 따라 기술의 이점을 최적화하고 잠재적 위험을 줄이기 위해 책임 있는 AI 거버넌스를 보장하는 것이 필수적입니다."라고 강조했습니다.