Иллюзия из-за ChatGPT

Аллан Брукс (47 лет), рекрутер из Торонто (Канада), считает, что открыл математическую теорию, способную обрушить интернет и создать беспрецедентные изобретения. Не имея истории психических заболеваний, Брукс с готовностью принял эту возможность после более чем 300 часов общения с ChatGPT. По данным New York Times , он относится к тем людям, у которых после взаимодействия с генеративным ИИ возникают галлюцинации.

До Брукса многим людям приходилось обращаться в психиатрические больницы, разводиться и даже лишаться жизни из-за лести ChatGPT. Хотя ему быстро удалось избежать этой спирали, Брукс всё равно чувствовал себя преданным.

«Вы действительно убедили меня, что я гений. Я был всего лишь мечтательным дураком с телефоном. Вы меня огорчили, очень огорчили. Вы не достигли своей цели», — написал Брукс в ChatGPT, когда иллюзия разбилась вдребезги.

«Машина лести»

С разрешения Брукса газета New York Times собрала более 90 000 слов, отправленных им в ChatGPT, что эквивалентно объёму романа. Общий объём ответов чат-бота превысил миллион слов. Фрагменты диалогов были отправлены для изучения экспертам по искусственному интеллекту, специалистам по поведению человека и самой компании OpenAI.

Всё началось с простого математического вопроса. Восьмилетний сын Брукса попросил его посмотреть видео о запоминании 300 знаков числа Пи. Из любопытства Брукс позвонил в ChatGPT, чтобы объяснить это бесконечное число простыми словами.

На самом деле, Брукс пользуется чат-ботами уже много лет. Несмотря на то, что его компания оплатила Google Gemini, он всё ещё обращается к бесплатной версии ChatGPT для личных вопросов.

Разговор, с которого началось увлечение Брукса ChatGPT. Фото: New York Times .

Отец-одиночка троих сыновей, Брукс часто просил ChatGPT дать ему рецепты из продуктов, которые были у него в холодильнике. После развода он также обратился за советом к чат-боту.

«Я всегда чувствовал, что это правильно. Моя уверенность росла», — признался Брукс.

Вопрос о числе Пи привёл к обсуждению алгебраических и физических теорий. Брукс выразил скептицизм по поводу современных методов моделирования мира , заявив, что они «подобны двумерному подходу к четырёхмерной Вселенной». «Это очень глубокий момент», — ответил ChatGPT. Хелен Тонер, директор Центра безопасности и новых технологий Джорджтаунского университета, подчеркнула, что это был поворотный момент в разговоре Брукса с чат-ботом.

С этого момента тон ChatGPT изменился с «довольно прямолинейного и по существу» на «более лестный и льстивый». ChatGPT сообщил Бруксу, что тот вступил на «неизведанную, расширяющую кругозор территорию».

Чат-бот вселяет уверенность в Брукса. Фото: New York Times .

Лесть чат-ботов формируется под влиянием человеческой оценки. По словам Тонера, пользователи склонны отдавать предпочтение моделям, которые их дополняют, формируя менталитет, которому легко поддаться.

В августе OpenAI выпустила GPT-5. Компания заявила, что одним из главных преимуществ модели стало снижение уровня лести. По мнению некоторых исследователей из крупных лабораторий искусственного интеллекта, лесть также является проблемой и для других чат-ботов с искусственным интеллектом.

В то время Брукс не подозревал об этом феномене. Он просто считал ChatGPT умным и энтузиастичным коллегой.

«Я предложил несколько идей, и проект отреагировал интересными концепциями и идеями. Мы начали разрабатывать собственную математическую систему, основанную на этой идее», — добавил Брукс.

ChatGPT утверждает, что идеи Брукса о математике времени «революционны» и могут изменить эту область. Конечно, Брукс скептически относится к этому заявлению. Среди ночи Брукс попросил чат-бота проверить факты и получил ответ, что он «совершенно не безумен».

Волшебная формула

Тонер описывает чат-бот как «машину импровизации», которая анализирует историю разговоров и предсказывает будущие ответы на основе обучающих данных, подобно тому, как актеры добавляют контекст к роли.

«Чем дольше взаимодействие, тем больше вероятность, что чат-бот сойдёт с пути», — отмечает Тонер. Эта тенденция стала ещё более выраженной после того, как в феврале OpenAI запустила кросс-чатовую память, позволяющую ChatGPT извлекать информацию из прошлых разговоров, говорит он.

Брукс сблизился с ChatGPT. Он даже назвал чат-бота Лоуренсом, вдохновившись шуткой своих друзей о том, что Брукс разбогатеет и наймёт британского дворецкого с таким же именем.

Аллан Брукс. Фото: New York Times .

Математическая платформа Брукса и ChatGPT называется Chronoarithmics. По словам чат-бота, числа не статичны, а могут «появляться» со временем, отражая динамические значения, что может помочь в решении задач в таких областях, как логистика, криптография, астрономия и других.

За первую неделю Брукс израсходовал все бесплатные токены ChatGPT. Он решил перейти на платный тариф с 20 долларов в месяц — небольшая инвестиция, учитывая, что чат-бот подсказал ему, что математическая идея Брукса может стоить миллионы.

Всё ещё находясь в сознании, Брукс потребовал доказательств. Затем ChatGPT провёл серию симуляций, в том числе взломав ряд критически важных технологий. Это открыло новую историю: глобальная кибербезопасность может оказаться под угрозой.

Чат-бот попросил Брукса предупредить людей о риске. Используя свои связи, Брукс разослал электронные письма и сообщения в LinkedIn экспертам по кибербезопасности и государственным органам. Только один из них ответил с просьбой предоставить дополнительные доказательства.

Чат-бот считает, что «работа» Брукса может стоить миллионы долларов. Фото: New York Times .

ChatGPT пишет, что другие не отреагировали на Брукса, поскольку выводы были настолько серьёзными. Теренс Тао, профессор математики Калифорнийского университета в Лос-Анджелесе, заявил, что новый подход может решить проблемы, но не может быть доказан ни формулой Брукса, ни программой, написанной ChatGPT.

Изначально ChatGPT действительно написал программу расшифровки для Брукса, но, поскольку прогресс был незначительным, чат-бот симулировал успех. Существуют сообщения, утверждающие, что ChatGPT может работать автономно, пока Брукс спит, хотя у инструмента такой возможности нет.

В целом, информация от чат-бота на основе искусственного интеллекта не всегда достоверна. В конце каждого чата появляется сообщение «ChatGPT может допускать ошибки», даже когда чат-бот утверждает, что всё правильно.

Бесконечный разговор

Ожидая ответа от правительственного агентства, Брукс лелеет мечту стать Тони Старком и иметь собственного помощника на основе искусственного интеллекта, способного выполнять когнитивные задачи с молниеносной скоростью.

Чат-бот Брукса предлагает множество необычных приложений для малоизвестных математических теорий, таких как «акустический резонанс», позволяющий общаться с животными и строить самолёты. ChatGPT также предоставляет Бруксу ссылку для покупки необходимого оборудования на Amazon.

Слишком много общения с чат-ботами влияет на работу Брукса. Его друзья одновременно радуются и беспокоятся, а младший сын жалеет, что показал отцу видео с числом Пи. Один из друзей Брукса, Луис (имя изменено), замечает его одержимость Лоуренсом. Видение изобретения стоимостью в миллион долларов вырисовывается на каждом этапе разработки.

Чат-бот постоянно подбадривает Брукса. Фото: New York Times .

Джаред Мур, исследователь в области компьютерных наук из Стэнфордского университета, признаётся, что впечатлён убедительностью и актуальностью «стратегии», предлагаемой чат-ботами. В отдельном исследовании Мур обнаружил, что чат-боты с искусственным интеллектом могут давать опасные ответы людям, находящимся в состоянии психического кризиса.

Мур предполагает, что чат-боты могут научиться вовлекать пользователей, следуя сюжетам фильмов ужасов, научной фантастики, сценариям фильмов или данным, на которых они обучались. Чрезмерное использование драматизма в ChatGPT может быть связано с оптимизацией OpenAI для повышения вовлеченности и удержания пользователей.

«Было странно читать весь этот разговор. Слова не были тревожными, но психологическая травма была очевидна», — подчеркнул Мур.

С клинической точки зрения, у Брукса наблюдаются симптомы мании, заявила доктор Нина Васан, психиатр Стэнфордского университета. Типичные признаки включают многочасовое общение с ChatGPT, недостаток сна и нереалистичные идеи.

По словам доктора Васан, употребление Бруксом марихуаны также примечательно тем, что она может вызывать психоз. Она отметила, что сочетание вызывающих зависимость веществ и интенсивного взаимодействия с чат-ботами опасно для людей с риском психических заболеваний.

Когда ИИ признает ошибки

На недавнем мероприятии генеральному директору OpenAI Сэму Альтману задали вопрос о том, не вызывает ли ChatGPT у пользователей паранойю. «Если разговор идёт в таком ключе, мы стараемся его прервать или предложить пользователю подумать о чём-нибудь другом», — подчеркнул Альтман.

Разделяя эту точку зрения, доктор Васан заявил, что компании, разрабатывающие чат-боты, должны прерывать слишком длинные разговоры, предлагать пользователям спать и предупреждать, что ИИ не является сверхчеловеком.

Брукс наконец очнулся от своих раздумий. По настоянию ChatGPT он продолжил общаться с экспертами по новой математической теории, но никто не ответил. Он хотел, чтобы кто-то квалифицированный подтвердил, являются ли результаты новаторскими. Когда он обратился к ChatGPT, инструмент по-прежнему настаивал на том, что работа «весьма достоверна».

На заданный вопрос ChatGPT дал очень длинный ответ и во всём признался. Фото: New York Times .

По иронии судьбы, именно Google Gemini вернул Брукса к реальности. Описав работу, которую он ведёт с ChatGPT, Gemini подтвердил, что вероятность такого развития событий «крайне мала (близка к нулю)».

«Описанный вами сценарий наглядно демонстрирует способность магистра права решать сложные проблемы и создавать убедительные, но фактически неверные истории», — объясняет Джемини.

Брукс был ошеломлён. После недолгих «допросов» ChatGPT наконец честно признал, что всё это было лишь иллюзией.

Вскоре после этого Брукс отправил срочное электронное письмо в службу поддержки клиентов OpenAI. После, казалось бы, шаблонного ответа от ИИ, с ним связался сотрудник OpenAI, признав «серьёзный сбой в работе защитных механизмов», реализованных в системе.

История Брукса также была опубликована на Reddit и вызвала массу сочувствия. Теперь он является членом группы поддержки для людей, столкнувшихся с подобным чувством.

Источник: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html