Color Me - Graphic Design Training Center의 CEO 겸 설립자인 응우옌 비엣 훙 씨는 댄 트리 기자에게 베트남의 인공지능(AI) 시장에 대한 자신의 관점을 공유했습니다. AI 시장의 유용한 측면과 사용자에게 미칠 수 있는 잠재적 위험에 대해서도 설명했습니다.

선생님, AI는 베트남에서 오랫동안 사용되어 왔지만, 지난 2년 동안 AI 도구가 폭발적으로 증가했습니다. 그렇다면 베트남 시장의 주요 특징은 무엇일까?

- 2021년 말부터 베트남에서 AI 열풍이 불기 시작했는데, 지금까지 우리에게 가장 큰 인상을 준 것은 생성적 AI였습니다. 이는 다양한 유형의 콘텐츠를 생성할 수 있는 기능을 갖춘 AI 도구입니다.

이 관점은 매우 간단합니다. 아무리 많은 데이터가 있더라도 AI는 그만큼의 새로운 데이터를 생성할 것입니다.

베트남에서는 텍스트 문단을 만들 수 있는 ChatGPT 도구에 매우 감명을 받았고, Mid Journey는 AI를 사용해 이미지를 만들고, Runway는 비디오를 만드는 데 사용되었습니다.

최근에는 프로그래밍에서 코드 줄을 생성할 수 있는 Copilot이 있습니다. 그러니까 우리가 가지고 있는 모든 유형의 데이터는 AI에 의해 생성될 수 있는 겁니다.

선생님, 왜 생성적 AI가 이 AI 흐름에서 중요한 역할을 하나요?

- 제 생각에는, 세상이 모든 분야에서 점점 더 대중화되고 있는 자동화의 문턱까지 발전했을 때입니다. 아니면, 사람들이 공부와 일에서 매일 직면하는 문제인 창의성이요.

즉, 우리는 새로운 작품, 새로운 이미지, 새로운 영화 또는 새로운 소프트웨어를 만들 수 있어야 한다는 뜻입니다. AI의 현재 능력으로 인해 인간이 창의산업에서 일할 수 있는 능력은 점점 늘어나고 있으며 거의 ​​무한대에 가깝습니다.

저는 학생이든 사무직 근로자든 우리 모두는 업무의 모든 측면에서 창의적이어야 한다고 생각합니다. 때로는 보고서, 브리핑, 개발 캠페인 계획 또는 빅 아이디어를 만드는 것만으로도 충분합니다. 무언가를 하려면 우리 모두는 사용자가 시작해야 하는 다양한 창의적 아이디어에서 시작해야 합니다.

생성적 AI는 끊임없이 변화하고 발전하고 있지만, 앞으로 몇 달 안에 우리가 기대할 수 있는 가장 광범위한 영향은 이 지능형 기술이 사용자가 직장과 학업에서 생산성을 높이는 데 도움이 될 것이라는 점입니다.

AI 도구를 만들려면 많은 양의 데이터를 사용해야 하는데, 이로 인해 데이터 저작권이라는 매우 논란이 많은 문제가 발생했는데, 이러한 현실에 대한 귀하의 관점을 공유해 주시겠습니까?

- 더 정확히 말하면, AI는 매우 광범위하며, 우리가 최근 보고 접하는 도구들은 대체로 딥러닝이나 신경망 기술(데이터 집합에서 기본적인 관계를 찾도록 설계된 일련의 알고리즘)에서 파생되었습니다.

이러한 모든 기술은 많은 양의 데이터를 통해 학습되어야 합니다. ChatGPT가 처음 출시된 첫날부터 커뮤니티에서는 이렇게 똑똑한 AI 도구를 만드는 데 필요한 데이터가 어디서 나오는지에 대한 많은 의문을 제기했습니다.

Mid Journey와 마찬가지로 매우 아름다운 이미지를 만들어냅니다. 분명 이전에 이미지 리소스가 있었을 것이고, 이를 이용해 인공지능을 광범위하게 훈련시켰을 것입니다. 이건 엄청난 저작권 문제예요.

예를 들어, 기사와 책을 AI 도구에 통합한다면, 해당 콘텐츠의 작성자는 무언가를 얻을 수 있을까요?

저는 유럽 국가에서 저작권과 관련된 계획이 점차 나오고 있으며, 약 1년 안에 모든 생성 AI 모델은 기술 회사가 학습에 사용하는 콘텐츠를 대중에 공개해야 할 것이라고 알고 있습니다. 오직 그럴 때에만 우리는 저작권 문제에서 서로를 진정으로 존중할 수 있습니다.

엔지니어가 AI를 훈련하는 데 사용하는 모든 데이터는 모든 작성자의 동의를 받아야 하며, 현재 약관에 따라 해당 콘텐츠는 무료로 대중에게 공개되어야 합니다.

일부 국제 전문가들은 이것이 현재 AI의 불분명한 영역이라고 말합니다. 즉, 우리는 아직 무엇이 완전히 옳고 무엇이 완전히 그른지 판단할 수 없다는 뜻입니다. 저작권 문제는 여전히 매우 어렵습니다.

따라서 AI가 생성한 콘텐츠를 사용하고 공개하는 데는 신중해야 합니다.

AI가 생성한 스토리, 제품 또는 콘텐츠에 대해 저작권을 인정해야 한다고 생각하시나요?

- AI가 일부 또는 전부 생성한 콘텐츠의 저작권 문제는 많은 국가에서 해결하고 있으며, AI와 관련된 콘텐츠에 합법성을 부여하기 위한 정책과 제도적 틀을 구축하고 있습니다.

이에 대해 비난하는 국가도 많으며, 어떤 AI 콘텐츠를 상용화할 수 있는지, 어떤 콘텐츠를 사용자가 개인적인 목적으로만 이용할 수 있는지 등을 허용하는 법적 시스템을 마련하는 방안을 논의하는 것을 고려하고 있습니다.

이로 인해 AI가 생성한 콘텐츠는 항상 여러 가지 저작권 범주로 구분해야 한다는 문제가 발생합니다. 사실, AI가 생성한 콘텐츠는 유튜브, 틱톡처럼 여전히 수익을 창출하는 데 사용되고 있습니다.

이 문제와 관련된 몇 가지 예를 공유해 주실 수 있나요?

- 유튜브에 가서 "오디오북"이라는 키워드로 검색하면 저자가 명시되지 않은 오디오북이 많이 나옵니다. 이 책들은 전적으로 AI가 만든 책입니다.

이에 따라 사용자는 전적으로 AI를 이용해 책의 내용을 만든 다음 이를 인공 음성으로 변환하게 됩니다. 이것은 텍스트를 음성으로 변환하는 기술입니다.

마지막으로, 시청자가 실제 책의 오디오 버전을 즐기는 듯한 느낌을 받을 수 있도록 제품을 비디오에 삽입합니다.

유튜브 플랫폼에서만 봐도 완전히 비현실적이고 AI가 완전히 창조한 책이 많이 있다는 걸 볼 수 있습니다.

또 다른 우려스러운 문제는 AI를 거의 전적으로 사용하여 콘텐츠를 생산하는 웹사이트와 블로그가 많다는 것입니다.

일부 연구에 따르면, AI를 과도하게 사용하여 새로운 데이터를 생성하고 이를 다른 AI 도구를 훈련시키는 데 사용하면 인공 지능이 붕괴되는 지점에 도달할 수 있다고 합니다. 이로 인해 AI가 생성한 콘텐츠는 더 이상 의미가 없게 되고, 사람들은 AI가 더 이상 유용하거나 창의적이지 않다고 느끼게 될 것입니다.

저는 전 세계가 함께 모여 철저한 저작권 제도를 확립한다면 AI와 함께 일하고 살아가는 더 건강한 미래를 맞이하는 데 도움이 될 것이라고 믿습니다.

AI가 사용자를 사기치기 위해 만든 웹사이트는 더 이상 낯선 일이 아니며, 심지어 베트남 시장에도 등장했습니다. 이것이 사기 콘텐츠라는 것을 알 수 있는 징후를 알려줄 수 있나요?

최근 AI와 관련된 사기나 협박 사건이 많이 발생했는데, 가장 흔한 것은 딥페이크 기술로, 피해자의 얼굴을 건강에 해롭거나 협박적인 콘텐츠에 붙여 넣는 것입니다. 딥페이크 콘텐츠는 많은 국가에서 금지되었으며, 어떤 목적으로 사용되든 이 기술을 전혀 지원하지 않습니다.

AI 도구가 만들어지면, 이를 막을 수 있는 기술이 항상 나올 것입니다. 예를 들어, 딥페이크 기술이 있다면 딥페이크 콘텐츠가 무엇인지 감지하는 기술도 있을 것입니다.

또는 ChatGPT처럼 전적으로 AI가 기사를 작성한다면, 이 기사가 사람이 쓴 기사인지 아니면 위의 도구를 통해 쓴 기사인지 확인하는 기술도 생길 것입니다.

그래서 우리는 이러한 인식 기술을 갖춰야 하며, 사용자 역시 AI가 생성한 콘텐츠와 사람이 생성한 콘텐츠의 종류를 구분할 수 있는 기술을 보완해야 합니다.

베트남 시장에서는 사용자를 지원하기 위해 AI가 통합된 휴대폰 제품이 점점 더 많아지고 있습니다. 그러면 이런 기기에서 AI 기능을 사용할 때 인간의 개인 정보는 안전할까요?

- 저는 AI가 통합된 모바일 제품의 보안 문제가 매우 심각하다고 생각합니다. 최근 Apple은 iPhone 16 시리즈 제품에 Apple Intelligent(Apple AI)를 통합했습니다.

이 새로운 세대의 휴대전화를 출시할 당시, 회사는 사용자 명령에 응답하는 데 사용되는 모든 콘텐츠와 서버 시스템에 대해 투명성을 확보해야 했습니다.

따라서 이러한 모든 서버에는 누구도 접근할 수 없으며 Apple Intelligent의 전체 콘텐츠 생성 시스템은 제3자에 의해 (엄격하게) 감사될 수 있습니다.

간단해 보이지만, Apple AI에 날씨에 대해 묻거나 AI에게 계획을 세워달라고 요청하는 일상적인 작업은 모두 개인정보이며, 이 정보가 잘못된 사람의 손에 들어가면 사용자의 위치나 활동을 완전히 알아낼 수 있습니다. 이건 정말 위험해요.

결과적으로 모든 생성 AI는 별도의 서버에 배치되는 방향으로 나아가고 있으며, 제3자의 해킹이나 간섭에 면역이 있다는 것이 입증되어야 합니다.

또 다른 문제는 기술 제품에 AI를 사용할 때, 생성된 모든 AI가 컴퓨터를 사용하여 답을 계산해야 한다는 것입니다. 컴퓨터가 사용자의 휴대전화에 바로 통합되면 보안이 훨씬 강화될 것입니다.

AI가 사용하는 컴퓨터가 다른 곳에 위치한다면, 데이터 보안은 확실히 위협받게 됩니다. 그러므로 AI 엔진이 사용자 기기에서 직접 실행되는지, 아니면 다른 서버에서 실행되는지 알아봐야 합니다.

Color Me에서는 다양한 작업에 AI를 적용한 것으로 알려졌습니다. 회사에 어떤 이점을 가져다주는지 알려주시겠어요?

- 저희는 창의 분야를 공부하는 학생들에게 무엇이 좋고 무엇이 좋지 않은지 파악하기 위해 지난 2년간 업무의 AI 측면에 대한 연구를 아주 일찍부터 진행해 왔습니다.

제가 몇 가지 말씀드리고 싶은 게 있습니다. 우선, 디자인과 창의성을 배우는 초보자라 하더라도 생성 AI를 너무 일찍 남용하거나 사용해서는 안 된다는 것입니다. 귀하의 전문성과 기술이 충분히 높아지면 AI 지원 도구에 대해 배우는 것을 고려해야 합니다.

HR 시스템 측면에서, 최근 조사에서 회사 직원의 거의 대부분이 업무 목적으로 주간, 심지어 일일 단위로 AI를 사용한다는 사실을 알게 되었습니다.

보고서 생성, 이메일 발송, AI로부터 아이디어 얻기 등이 될 수 있습니다. 저는 AI를 제 업무를 지원하는 가상 비서로 생각하면 생산성이 크게 향상될 것이라고 생각합니다.

회사의 프로그래밍 팀은 모두 AI가 생산성을 세 배로 늘렸다고 인정했습니다.

프로그래밍에 AI를 적용하는 데 단점이 있습니까?

- 우리가 인정해야 할 한 가지는, AI는 해당 분야에 대한 전문 지식이 부족하고 너무 일찍 AI를 사용하는 사람에게는 매우 해로울 것이라는 점입니다. 그들은 좋은 품질이 아닌 제품을 만들어낼 것입니다.

예를 들어, 프로그래머가 AI를 사용하여 자신이 이해하지 못하는 코드를 만들면 해당 직원은 나중에 오류를 수정하거나 애플리케이션 이름을 변경할 위치를 찾을 수 없게 됩니다.

또는 보고 업무를 하는 사람들에게는 AI를 사용하여 차트가 올바른지 여부를 알 수 없고 테스트할 수 없는 차트를 생성하는 것은 극도로 무서운 양날의 검입니다.

창의성을 위해 AI를 활용하는 것에 대한 이야기에 대해, 이런 도구를 남용하면 인간의 사고력이 저하될 것이라고 생각하시나요?

저는 AI를 사용해 아이디어를 참조하면 사용자가 아직 깨닫지 못한 더 많은 측면과 관점을 생각해내는 데 도움이 된다고 믿습니다.

하지만 때로는 창의성을 발휘하기 어렵게 만들기도 합니다. 사람들은 AI의 본질이 과거부터 현재까지 세상에 존재했던 모든 아이디어를 수집하고, 사용자가 요청하면 그 결과를 반환한다는 것을 이해해야 합니다.

그러니 우리가 창의성을 발휘하지 못하고, 새로운 아이디어를 내는 것을 멈추면 조만간 AI는 창의성을 잃게 될 것이고, 독창성도 없고, 새로운 기능도 만들어지지 않을 것입니다.

이는 모든 기업이 상당히 우려하는 사항이지만, 특히 창의성과 관련된 기업이라면 더욱 그렇습니다.

미디어 전반이나 특히 저널리즘 분야에서는 실제로 AI를 이용해 기사를 생산하는 기술을 도입한 신문이 전 세계적으로 존재합니다. 미래에는 AI가 일부 분야에서 인간을 대체할 수 있을까요?

- 일부 분야와 일부 기술에서는 AI가 인간을 대체할 것이라는 우려가 부분적으로는 사실이라고 생각합니다.

우리는 생성적 AI를 테스트하면서 매우 놀랍고 설득력 있는 결과를 얻었습니다. 물론, 여전히 사용자가 신뢰할 만한 증거가 부족하여 잘못된 결과가 나오는 경우도 있습니다.

문제는 우리가 대체될 것인가입니다. 이는 역사 전반, 모든 기술 혁명을 통해 입증되었습니다. 파괴적 기술이 등장하면 일자리는 확실히 사라지겠지만, 새로운 일자리는 빠르게 창출될 것입니다.

특히 해당 기술을 사업에 적용하거나 새로운 사업 아이디어를 구축하는 사람들에게 적합합니다.

반복적이고 창의성이 부족한 작업은 점차 AI와 기계로 대체되는 미래입니다. 또한 AI에 대한 전문성과 업무 능력을 갖춘 젊은이들이 많이 생겨나면서 많은 새로운 일자리가 창출될 것입니다.

OpenAI의 CEO인 샘 알트먼이 말했듯이, 저는 곧 직원이 거의 없는 상태에서 스스로 억만장자가 된 젊은이들이 생길 것이라고 믿습니다. 그들은 전적으로 AI로 구성된 인간 노동자 군대를 만들 수 있었습니다. 사업 아이디어를 현실로 만들 수 있습니다.

그건 우리 모두가 관찰하고, 살펴보고, 미래에 일어날지 아닐지 지켜보는 일이죠.

시간을 내어 대화해주셔서 감사합니다!

내용: 남도안, 칸비

디자인: Thuy Tien

내용: 남도안, 칸비

비디오: 칸 비

디자인: Thuy Tien

단트리닷컴(Dantri.com.vn)

출처: https://dantri.com.vn/suc-manh-so/con-bao-ai-tai-viet-nam-va-nhung-cong-viec-dang-bi-thay-the-20241002004323299.htm