Начальник расслабляется, сотрудники спокойно передают конфиденциальные данные ИИ

Применение искусственного интеллекта (ИИ) в работе стало неизбежной тенденцией, помогающей повысить эффективность и сэкономить время.

Однако за этим удобством кроются потенциальные риски для безопасности данных, особенно явление «теневого ИИ» — когда сотрудники используют инструменты ИИ небрежно, бесконтрольно, случайно размещая конфиденциальные данные компании на публичных платформах.

Зависимость и первоначальные опасения

Тхань Хуен (21 год), сотрудница отдела контент-маркетинга в компании по производству косметики и функциональных продуктов питания, рассказала, что она на 90% полагается на ИИ в своей работе: от планирования и создания контента до дизайна изображений и видео .

Однако однажды, случайно наткнувшись на статью, похожую на идею, о которой она спросила ChatGPT, Хуен начала беспокоиться о способности ИИ запоминать и делиться входной информацией.

Хотя история Хуена может быть совпадением, неоспоримым фактом является то, что предоставление информации ИИ означает разрешение этим инструментам собирать и хранить данные для обучения модели.

Проблема становится серьезной, если платформа ИИ взломана или плохо защищена, что приводит к утечкам информации и негативным последствиям.

«Теневой ИИ» — потенциальная опасность

ХМ (20 лет), специалист по работе с клиентами, регулярно предоставляет ИИ список информации о клиентах (полное имя, дата рождения, номер телефона, история покупок) для анализа, экономя время и повышая производительность.

М. считает, что это не представляет потенциального риска, поскольку компания небольшая, и данные не будут раскрыты. Однако случай М. типичен для «теневого ИИ» — использования ИИ сотрудниками без одобрения или контроля со стороны отдела информационных технологий или кибербезопасности.

Согласно отчёту Cisco, 62% организаций во Вьетнаме не уверены в способности выявлять неконтролируемое использование ИИ сотрудниками. Опрос в Великобритании также показал, что 75% менеджеров по кибербезопасности обеспокоены внутренними угрозами, такими как «теневой ИИ».

Это показывает, что теневой ИИ становится распространенной угрозой, особенно в условиях, когда во многих компаниях нет четкой политики использования ИИ, а сотрудники не осведомлены о безопасности данных.

Идти на компромиссы, чтобы не остаться позади

Несмотря на осознание рисков, Тхань Хуен всё же готова «сделать ставку» на ИИ. Она считает, что немедленная выгода от ИИ слишком велика, и это помогает ей ежедневно писать десятки статей и идей.

Удобство, скорость и возможность повышения производительности заставили Хуен предоставить ИИ конфиденциальную информацию, даже личные данные ее начальников.

Аналогичным образом, Чунг Хьеу (20 лет), сотрудник отдела контент-маркетинга, также регулярно предоставляет внутренние документы и бизнес-информацию чат-боту на основе ИИ.

Хьеу заметил значительный рост производительности, создающий конкурентное преимущество, и считает, что это не слишком влияет на деятельность компании.

Эти случаи показывают, что теневой ИИ распространяется из-за отсутствия четкой политики со стороны компании и недостаточной осведомленности сотрудников о рисках безопасности, качества и зависимости.

Ряд рисков, возникающих при чрезмерном доверии к ИИ

Г-н Нгуен Вьет Хунг, генеральный директор компании по разработке программного обеспечения для приложений на основе ИИ, объясняет популярность Shadow AI тремя факторами: ИИ помогает работать быстрее и эффективнее; привычка полагаться на ИИ формируется быстро; и предприятиям не хватает предупреждений и обучения о рисках.

Эксперты предупреждают, что теневой ИИ может привести к утечкам данных (клиентских, внутренних) при использовании в бесплатных инструментах ИИ.

Кроме того, качество контента, создаваемого ИИ, не проверяется, что может легко привести к предвзятости и повлиять на бизнес-решения.

Что еще серьезнее, неконтролируемое использование ИИ может создать уязвимости безопасности, затрудняя мониторинг и оперативное реагирование ИТ-систем, а также затрудняя определение ответственности в случае возникновения инцидентов.

Темные области трудно контролировать.

Мониторинг и управление сотрудниками с помощью ИИ — это длительный и скоординированный процесс. Эксперты утверждают, что наличие у сотрудников доступа к внутренним данным создаёт серьёзное препятствие для передачи ими конфиденциальной информации через персональные инструменты ИИ.

Более того, инструменты ИИ теперь легкодоступны, что затрудняет их обнаружение и управление ИТ-отделом.

Чтобы справиться с этой ситуацией, эксперт Нгуен Вьет Хунг предположил, что компаниям необходимо усилить обучение сотрудников по вопросам осведомленности о рисках при использовании ИИ и глубже понять «теневой ИИ».

Одновременно с этим необходимо оперативно выпускать нормативные акты и внутренние политики. Ещё одним важным решением является усиление мер безопасности на предприятии, включая поведенческий мониторинг, контроль доступа к данным и тщательную авторизацию каждого сотрудника.

В настоящее время во многих компаниях до сих пор отсутствует чёткий процесс использования ИИ, и их применение поощряется лишь для повышения производительности. Для борьбы с теневым ИИ многие крупные предприятия начали внедрять внутренние платформы ИИ или требовать от сотрудников использования утверждённых инструментов с чёткими политиками информационной безопасности.

Источник: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm