El jefe se relaja, los empleados entregan con calma datos confidenciales a la IA

La aplicación de Inteligencia Artificial (IA) al trabajo se ha convertido en una tendencia inevitable, ayudando a mejorar la eficiencia y ahorrar tiempo.

Sin embargo, detrás de esa conveniencia se esconden riesgos potenciales para la seguridad de los datos, especialmente el fenómeno de la “IA en la sombra”, cuando los empleados utilizan herramientas de IA de forma descuidada, sin control, poniendo accidentalmente datos confidenciales de la empresa en plataformas públicas.

Dependencia y preocupaciones iniciales

Thanh Huyen (21 años), empleada de marketing de contenidos en una empresa de cosméticos y alimentos funcionales, compartió que confía en la IA en un 90% en su trabajo, desde la planificación y la creación de contenido hasta el diseño de imágenes y videos .

Sin embargo, una vez que accidentalmente se encontró con un artículo similar a la idea que le preguntó a ChatGPT, Huyen comenzó a preocuparse por la capacidad de la IA para recordar y compartir la información de entrada.

Si bien la historia de Huyen puede ser una coincidencia, el hecho innegable es que proporcionar información a la IA significa permitir que estas herramientas recopilen y almacenen datos para entrenar el modelo.

El problema se agrava si la plataforma de IA es pirateada o está mal protegida, lo que provoca filtraciones de información y consecuencias negativas.

"IA en las sombras": un peligro potencial

HM (20 años), especialista en atención al cliente, proporciona periódicamente una lista de información del cliente (nombre completo, fecha de nacimiento, número de teléfono, historial de compras) a AI para su análisis, ahorrando tiempo y mejorando el rendimiento.

M. cree que esto no representa un riesgo potencial, ya que la empresa es pequeña y los datos no se divulgarán. Sin embargo, el caso de M. es típico de la "IA en la sombra": el uso de IA por parte de los empleados sin la aprobación ni la supervisión del departamento de tecnología de la información o ciberseguridad.

Un informe de Cisco reveló que el 62 % de las organizaciones en Vietnam no confían en detectar el uso no regulado de la IA por parte de sus empleados. Una encuesta realizada en el Reino Unido también reveló que el 75 % de los responsables de ciberseguridad están preocupados por amenazas internas como la IA en la sombra.

Esto demuestra que la IA en la sombra se está convirtiendo en una amenaza común, especialmente cuando muchas empresas no tienen políticas claras sobre el uso de la IA y los empleados carecen de conciencia sobre la seguridad de los datos.

Acepte compensaciones para evitar quedarse atrás

A pesar de ser consciente de los riesgos, Thanh Huyen sigue apostando por la IA. Cree que los beneficios inmediatos que aporta son enormes, lo que le permite producir decenas de artículos e ideas a diario.

La conveniencia, la velocidad y la capacidad de aumentar el rendimiento han hecho que Huyen esté dispuesta a proporcionar información sensible y confidencial a AI, incluso la información personal de sus superiores.

De manera similar, Trung Hieu (20 años), un empleado de marketing de contenidos, también proporciona periódicamente documentos internos e información comercial al chatbot de IA.

Hieu notó un aumento significativo en la productividad, creando una ventaja competitiva y cree que esto no afecta demasiado las operaciones de la empresa.

Estos casos muestran que la IA en la sombra se está extendiendo debido a la falta de políticas claras por parte de la empresa y a una conciencia insuficiente entre los empleados sobre los riesgos de seguridad, calidad y dependencia.

Una serie de riesgos al confiar demasiado en la IA

El Sr. Nguyen Viet Hung, director ejecutivo de una empresa de desarrollo de software de aplicaciones de IA, explica la popularidad de Shadow AI debido a tres factores: la IA ayuda a trabajar más rápido y de manera más eficiente; el hábito de depender de la IA se forma rápidamente; y las empresas carecen de advertencias y capacitación sobre los riesgos.

Los expertos advierten que Shadow AI puede provocar fugas de datos (de clientes, internos) cuando se implementa en herramientas de IA gratuitas.

Además, la calidad del contenido generado por IA no está verificada, lo que puede generar fácilmente sesgos y afectar las decisiones comerciales.

Más grave aún, el uso descontrolado de la IA puede crear vulnerabilidades de seguridad, lo que dificulta que los sistemas de TI supervisen y respondan con rapidez y dificulta la determinación de responsabilidades cuando ocurren incidentes.

Las zonas oscuras son difíciles de controlar.

Monitorear y gestionar a los empleados mediante IA es un proceso largo y coordinado. Los expertos afirman que el acceso de los empleados a datos internos supone un gran obstáculo para evitar que compartan datos privados a través de herramientas de IA personales.

Además, ahora se puede acceder fácilmente a las herramientas de IA, lo que dificulta que el departamento de TI las detecte o administre.

Para afrontarlo, el experto Nguyen Viet Hung sugirió que las empresas necesitan aumentar la capacitación de los empleados sobre la conciencia de los riesgos al usar IA y obtener una comprensión más profunda de la "IA en la sombra".

Al mismo tiempo, se deben promulgar con prontitud regulaciones legales y políticas internas. Otra solución importante es fortalecer las capacidades de seguridad en la empresa, incluyendo la monitorización del comportamiento, el control de acceso a los datos y la autorización rigurosa de cada empleado.

Actualmente, muchas empresas aún no cuentan con un proceso claro para el uso de la IA, y solo fomentan su uso para aumentar la productividad. Para abordar la IA en la sombra, muchas grandes empresas han comenzado a implementar plataformas internas de IA o exigen a sus empleados que utilicen herramientas homologadas con políticas claras de seguridad de la información.

Fuente: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm