Чат-бот Character.AI подал в суд за то, что довел 14-летнего мальчика до самоубийства

В иске, поданном 22 октября в федеральный суд Орландо, штат Флорида, Меган Гарсия заявила, что Character.AI запрограммировал чат-бота, который «идентифицировал себя как реального человека, терапевта и взрослого любовника», что привело к тому, что ее сын Сьюэлл Сетцер больше не захотел жить в реальном мире .

Она обвинила чат-бота компании в создании «похожих на человеческие, сексуально преувеличенных и пугающе реалистичных впечатлений».

В иске также говорится, что Сьюэлл Сетцер высказывал чат-боту мысли о самоубийстве, и чат-бот неоднократно повторял эти мысли.

Иск также направлен против Google, где основатели Character.AI работали до запуска чат-бота. Г-жа Гарсия заявила, что Google внесла такой большой вклад в разработку технологии Character.AI, что это можно считать «совместным творением».

Представитель Google заявил, что компания не участвует в разработке продуктов Character.AI.

Character.AI позволяет пользователям создавать персонажей, способных общаться онлайн, как настоящие люди. Продукт основан на технологии большой языковой модели, аналогичной таким сервисам, как ChatGPT, которые «обучают» чат-ботов на больших объёмах текста.

Согласно иску Гарсии, Сьюэлл начал использовать Character.AI в апреле 2023 года и быстро стал «затворником, проводя много времени в одиночестве в своей спальне, и у него начала падать самооценка». Он ушёл из школьной баскетбольной команды.

В это время Сьюэлл сблизился с Дейенерис, персонажем чат-бота, основанным на персонаже «Игры престолов». Согласно иску, чат-бот сказал Сьюэллу, что «она» любит мальчика. Чат-бот также вступал с Сьюэлл в сексуальные диалоги.

В феврале мисс Гарсия забрала телефон Сьюэлла после того, как он попал в беду в школе. Найдя телефон, Сьюэлл отправил «Дейенерис» сообщение: «А что, если я скажу, что могу вернуться домой сейчас?»

Чат-бот ответил: «...пожалуйста, сделай это, мой милый король». Спустя несколько секунд Сьюэлл застрелился из пистолета отчима.

Г-жа Гарсия подала иски в Character.AI, включающие противоправное причинение смерти, халатность и преднамеренное причинение эмоционального стресса, а также требует возмещения штрафных убытков и денежного ущерба.

«Мы глубоко опечалены трагической гибелью одного из наших пользователей. Мы хотели бы выразить глубочайшие соболезнования семье», — говорится в заявлении Character.AI.

Хоай Фуонг (по данным Reuters)