Vietnam.vn - Nền tảng quảng bá Việt Nam

Độc lập - Tự do - Hạnh phúc

Серьезная уязвимость ChatGPT и ряда помощников на основе искусственного интеллекта: пользователи обманываются, происходит утечка информации...

Используя эту уязвимость, хакеры могут заставить ChatGPT предлагать пользователям загружать вируссодержащее программное обеспечение, давать ложные деловые советы и даже получать доступ к файлам на Google Диске...

Báo Tuổi TrẻBáo Tuổi Trẻ11/08/2025

ChatGPT - Ảnh 1.

Уязвимость «Zero Click» позволяет хакерам даже контролировать ChatGPT и действовать по своему усмотрению. Иллюстрация: AFP

Израильская компания по кибербезопасности Zenity только что раскрыла первую уязвимость «Zero Click», обнаруженную в сервисе OpenAI ChatGPT.

Этот тип атаки не требует от пользователя выполнения каких-либо действий, таких как нажатие ссылки, открытие файла или участие в каком-либо преднамеренном взаимодействии, но все равно может привести к получению доступа к учетным записям и утечке конфиденциальных данных.

Михаил Бергори, соучредитель и технический директор Zenity, наглядно продемонстрировал, как хакер, имея всего лишь адрес электронной почты пользователя, может получить полный контроль над разговорами, включая прошлый и будущий контент, изменить цель разговора и даже манипулировать ChatGPT, действуя в свою пользу.

В своей презентации исследователи продемонстрировали, что взломанный ChatGPT может стать «вредоносным инструментом», тайно действующим против пользователей. Хакеры могут заставить ChatGPT предлагать пользователям загружать заражённое вирусом ПО, давать вводящие в заблуждение бизнес-консультации или получать доступ к файлам, хранящимся на Google Диске, если учётная запись пользователя подключена. Всё это происходит без его ведома.

Уязвимость была полностью устранена только после того, как Zenity уведомила OpenAI.

Помимо ChatGPT, Zenity также демонстрировала аналогичные атаки на другие популярные платформы с искусственным интеллектом. В Copilot Studio от Microsoft исследователи обнаружили способ утечки целых баз данных CRM.

В Salesforce Einstein хакеры могут создавать поддельные запросы на обслуживание, чтобы перенаправлять все сообщения клиентов на подконтрольные им адреса электронной почты.

Google Gemini и Microsoft 365 Copilot также были превращены во «враждебных участников», осуществляющих фишинговые атаки и утечку конфиденциальной информации через электронные письма и события календаря.

В другом примере инструмент разработки программного обеспечения Cursor при интеграции с Jira MCP также использовался для кражи учетных данных разработчика с помощью поддельных «тикетов».

Zenity заявила, что некоторые компании, такие как OpenAI и Microsoft, быстро выпустили исправления после получения предупреждений. Однако другие отказались решать проблему, утверждая, что такое поведение является «особенностью дизайна», а не уязвимостью безопасности.

По словам Михаила Бергори, главная проблема сейчас заключается в том, что ИИ-помощники не просто выполняют простые задачи, а становятся «цифровыми сущностями», представляющими пользователей, способными открывать папки, отправлять файлы и получать доступ к электронной почте. Он предупредил, что это настоящий «рай» для хакеров с таким количеством возможностей для эксплуатации.

Бен Калигер, соучредитель и генеральный директор Zenity, подчеркнул, что исследования компании показывают, что существующие методы безопасности больше не подходят для работы ИИ-помощников. Он призвал организации изменить свой подход и инвестировать в специализированные решения для контроля и мониторинга действий этих «агентов».

Компания Zenity была основана в 2021 году. В настоящее время в ней работает около 110 сотрудников по всему миру, 70 из которых работают в офисе в Тель-Авиве. Среди клиентов Zenity — многие компании из списка Fortune 100 и даже Fortune 5.

Вернуться к теме
ВНА

Source: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm


Комментарий (0)

Simple Empty
No data
Внутри выставочного зала, посвященного 80-летию Национального дня, 2 сентября
Обзор первого учебного сеанса A80 на площади Бадинь
Лангшон расширяет международное сотрудничество в деле сохранения культурного наследия
Патриотизм по-молодежному

Наследство

Фигура

Бизнес

No videos available

Новости

Политическая система

Местный

Продукт