Опасения, что чат-бот Grok провоцирует всплеск дезинформации в Интернете

В отличие от других популярных инструментов ИИ для фотосъёмки, Grok Маска, похоже, имеет меньше ограничений. Например, в тесте CNN Grok легко создавал поддельные изображения политиков, вводя избирателей в заблуждение.

Изображение Илона Маска, созданное чат-боксом Grok. (Источник: CNN)

Некоторые пользователи X также публиковали изображения, созданные Grok, на которых знаменитости курят наркотики, персонажи мультфильмов убивают людей и сексуализированные изображения женщин в бикини.

По данным CNN , Грок также высказывает опасения, что ИИ может спровоцировать взрыв дезинформации в Интернете, особенно в преддверии президентских выборов в США.

Законодатели, активистские группы и лидеры сферы технологий бьют тревогу, поскольку злоупотребление такими инструментами может вызвать путаницу и хаос среди избирателей.

Многие ведущие мировые компании в области искусственного интеллекта внедрили политику, направленную на предотвращение использования инструментов генерации изображений на базе ИИ для создания политической дезинформации, хотя исследователи обнаружили, что пользователи иногда находят способы обойти правила.

Несколько компаний, таких как OpenAI, Meta и Microsoft, используют технологию или метки, чтобы помочь зрителям узнать, какие изображения созданы их ИИ.

Социальные сети, включая YouTube, TikTok, Instagram и Facebook, также маркируют контент, созданный ИИ, в лентах пользователей, используя технологию для его самостоятельного обнаружения или прося пользователей указать, когда они его опубликовали.

16 августа искусственный интеллект, по всей видимости, наложил некоторые ограничения на Grok. Теперь инструмент отказывается генерировать изображения политических кандидатов или популярных персонажей мультфильмов, совершающих акты насилия.