El potencial conlleva riesgos

Es innegable que la inteligencia artificial (IA) está demostrando cada vez más ser una herramienta poderosa para apoyar a los trabajadores y facilitar la vida humana. Sin embargo, estos productos tecnológicos son como un "espada de doble filo" cuando son explotados por malos para cometer fraudes y ataques en el ciberespacio.

Los boletines de advertencia del Departamento de Seguridad de la Información (Ministerio de Información y Comunicaciones) o de la Asociación de Seguridad Cibernética citan numerosos casos de fraude registrados utilizando tecnología de IA. Por ejemplo, la Sra. Nguyen Thanh T, una empleada de oficina en Hanoi, mientras chateaba con un amigo a través de Facebook Messenger, el amigo se despidió y terminó la conversación, pero de repente volvió a enviar mensajes de texto, pidiendo dinero prestado y sugiriendo transferir dinero a una cuenta bancaria. Aunque el nombre de la cuenta coincidía con el nombre de su amiga, la Sra. T sospechó y solicitó una videollamada para verificar. El amigo aceptó inmediatamente, pero la llamada sólo duró unos segundos debido a la “red intermitente”.

Al ver la cara de su amiga en la videollamada y que la voz era la correcta, la Sra. T transfirió el dinero. Sin embargo, solo después de que la transferencia de dinero fue exitosa, se dio cuenta de que había caído en la trampa de un hacker.

No sólo la Sra. T, sino muchas otras víctimas, amigos y familiares, también fueron engañados de la misma manera. La cantidad de dinero que los malos han estafado al suplantar la identidad con herramientas y voces deepfakes ha alcanzado decenas de millones de dongs.

Otro ejemplo típico del uso de IA para apropiarse de activos es el caso de Mr. NTH, cuando al utilizar un teléfono Android, los estafadores prepararon una trampa con instrucciones para instalar un enlace malicioso. Desde allí, toma el control de teléfonos y cuentas bancarias para transferir dinero a terceros. Además, el malware contacta automáticamente con la información de contacto disponible y envía mensajes automáticos solicitando transferencias de dinero.

El Sr. NTH dijo que el impostor dijo ser un "oficial de policía", llamó a su número de teléfono y le pidió verificar sus datos de identificación personal. Como era mayor, no estaba familiarizado con la tecnología y era crédulo, la víctima entregó su teléfono a una tercera persona para que siguiera las instrucciones del estafador, descargando e instalando así la aplicación maliciosa "DichVuCong.apk" en su teléfono.

El Sr. Tran Nguyen Chung, Jefe del Departamento de Seguridad del Sistema de Información (Departamento de Seguridad de la Información) dijo: Cuando se desarrolle la tecnología de IA, detectar y distinguir entre contenido real y falso en el ciberespacio será más difícil y cualquiera puede convertirse en un objetivo, una víctima de ataques cibernéticos por parte de delincuentes que utilizan tecnología de IA. Sin embargo, el hecho de que usted se convierta o no en víctima depende de lo bien que se equipe con el conocimiento y la información necesarios.

Esta situación de fraude tecnológico de IA no sólo ocurre en Vietnam, sino también en muchos países alrededor del mundo. Actualmente, agencias, organizaciones y grandes corporaciones tecnológicas están trabajando juntas para encontrar medidas y soluciones técnicas para detectarlo y prevenirlo desde la raíz.

En el período actual, la medida importante es promover la propaganda, concientizar a la gente sobre los métodos, trucos y formas de reconocer y lidiar con esta sofisticada forma de falsificación para ayudar a reducir y limitar el impacto del deepfake en las actividades en el ciberespacio. Emitir de forma proactiva advertencias generalizadas en los medios de comunicación cuando se produzcan nuevos acontecimientos y formas de fraude.

“En caso de recibir llamadas amenazantes con imágenes o videos sensibles, las personas deben mantener la calma, verificar e investigar cuidadosamente el origen de las imágenes y los videos”, dijo el Sr. Tran Nguyen Trung.

Según el informe de investigación "Identificación de riesgos para la economía global en 2024" de la Universidad de Economía (UEB) de la Universidad Nacional de Vietnam, Hanoi, uno de los riesgos que afectan a la economía global es el riesgo en el sector tecnológico. El informe sostiene que, en el contexto del rápido surgimiento de la IA, las políticas regulatorias aún no han podido seguir el ritmo de su desarrollo. La desinformación generada por la IA, especialmente en un año con muchas elecciones en todo el mundo como este, ha estado planteando muchos problemas a la seguridad, la política, la defensa y la paz a nivel mundial.

En declaraciones a los periodistas del periódico Tin Tuc, el viceministro de Ciencia y Tecnología, Nguyen Hoang Giang, dijo: "El Primer Ministro emitió la Decisión No. 127/2021 sobre la estrategia nacional de investigación, desarrollo y aplicación de inteligencia artificial hasta 2030. Para implementarla, el Ministerio de Ciencia y Tecnología, así como otros ministerios y ramas, han estado implementando de manera drástica y sincrónica, como el Ministerio de Justicia, que investiga el aspecto legal. El Ministerio de Información y Comunicaciones, que investiga la tecnología digital. El Ministerio de Ciencia y Tecnología también ha apoyado, investigado y desarrollado la industria 4.0; ha investigado y aplicado el desarrollo de la tecnología de la información, al servicio del desarrollo de ciudades digitales e inteligentes. Sin embargo, con un desarrollo rápido y sólido, también han aparecido los aspectos negativos y los riesgos de la IA cuando se abusa de ella para convertirla en una herramienta para los ciberdelincuentes con fines de fraude, suplantación de identidad, amenazas, apropiación de propiedad, etc.

Hasta ahora, junto con la investigación, el Ministerio de Ciencia y Tecnología y el Gobierno también están construyendo activamente un marco legal, aprendiendo de las experiencias de otros países desarrollados para que el campo de la IA en Vietnam promueva su potencial, promueva el desarrollo y controle estrictamente, garantice la ética y la humanidad en el campo de la inteligencia artificial.

El rápido desarrollo de las herramientas de IA ha planteado muchos problemas relacionados con los derechos humanos, la ética, la privacidad, la seguridad de la información y la responsabilidad legal. En comparación con el resto del mundo, Vietnam todavía se encuentra en las primeras etapas del desarrollo de la IA. Por lo tanto, existe una necesidad de regulaciones y políticas de IA específicas que sean adecuadas para todos los aspectos de la vida, la economía y la sociedad en Vietnam.

Emitir urgentemente un marco jurídico

La gestión del lado oscuro de la IA también es un tema que se ha debatido en algunos países. El Parlamento de la Unión Europea ha aprobado el primer conjunto de normas básicas del mundo para regular la inteligencia artificial. Muchos expertos en tecnología creen que este Código ayudará a la UE a lograr ambos objetivos: minimizar el impacto negativo de los avances tecnológicos en los usuarios y alcanzar la posición dominante de competidores clave en el mercado.

Poco después, la Asamblea General de las Naciones Unidas adoptó una resolución sobre inteligencia artificial (IA), brindando apoyo global a un esfuerzo internacional para garantizar que esta nueva tecnología beneficie a todos los países, respete los derechos humanos y sea “segura, protegida y confiable”.

El Sr. Vu Ngoc Son, Director Técnico de la Sociedad Anónima Nacional de Tecnología de Ciberseguridad, afirmó: «La IA es una tecnología que sirve a los intereses humanos, facilitando la automatización de diversas etapas operativas. Es una herramienta poderosa que se utiliza para diversos fines, como la prestación de servicios de preguntas y respuestas, la producción de software, etc. Sin embargo, la IA también presenta un lado negativo cuando cae en manos de actores maliciosos con el objetivo de crear contenido fraudulento y códigos maliciosos para atacar a los usuarios. Por lo tanto, la IA no es una herramienta específica para la creación de productos ni para la delincuencia, sino que la clave reside en cómo usarla».

“Creo que las sanciones y los corredores legales no han alcanzado el ritmo del desarrollo de la IA. Necesitaremos tiempo para desarrollar e implementar políticas que limiten los riesgos de la IA cuando se utiliza con fines maliciosos, afectando así los derechos humanos, la seguridad, el orden y la protección social”, afirmó el Sr. Vu Ngoc Son.

El Dr. Dang Minh Tuan, director del Instituto CMC ATI, afirmó: «Por un lado, debemos seguir investigando y desarrollando nuevas tecnologías, actualizar y estudiar estrategias para usar la IA con fines maliciosos. Por otro lado, también debemos promover la honestidad en la ciencia y el trabajo. Por consiguiente, es necesario adaptar e invertir en contenido y políticas específicas para esta herramienta en Vietnam. En particular, también podemos utilizar herramientas de IA para detectar contenido y código malicioso. La IA es como un arma de doble filo: crea un proceso de mejora continua con el objetivo final de servir a los intereses humanos».

Los expertos señalan que es necesario controlar el desarrollo de productos de alta tecnología de manera responsable, porque la incapacidad de regular y dominar la tecnología conducirá a consecuencias impredecibles, causando pérdidas a la economía y afectando a cada individuo así como a toda la sociedad.

La emisión de regulaciones específicas y transparentes no sólo ayudará a prevenir y minimizar los riesgos que pueda causar la IA, sino que también ayudará a Vietnam a atraer la atención y la inversión de las principales empresas tecnológicas del mundo, promoviendo el desarrollo de la industria nacional de tecnología de la información e IA.

Artículo final: Desarrollo paralelo y control de la IA