Три года назад упоминание о возможности «сознательного» ИИ было самым быстрым способом получить увольнение в Кремниевой долине. Но теперь, когда системы искусственного интеллекта становятся все более сложными, мир технологий начинает больше открываться этой теме.

Стартап Anthropic, занимающийся разработкой искусственного интеллекта, недавно объявил о запуске новой исследовательской инициативы по изучению возможности появления у моделей искусственного интеллекта «сознания» в будущем. Между тем, ученый из Google DeepMind описал современные системы как «странные сущности, похожие на интеллект».

Это существенное изменение по сравнению с 2022 годом, когда инженер Блейк Лемуан был уволен из Google после того, как заявил, что чат-бот LaMDA проявляет признаки самосознания и боится отключения. В то время Google отвергла обвинения, назвав их «совершенно беспочвенными», и сообщество ИИ быстро прекратило дискуссию.

Компания Anthropic, создавшая чат-бота Claude, утверждает, что не утверждает, что существующие модели обладают сознанием. Однако, по словам Кайла Фиша, ученого, изучающего «благосостояние ИИ» в Anthropic, предполагать, что ответ будет «нет», больше не является ответственным подходом.

В видео, опубликованном 25 апреля, Фиш утверждает, что нам необходимо серьезно рассмотреть возможность того, что системы ИИ могут обрести некую форму сознания в процессе своего развития. Однако это чрезвычайно сложные технические и философские вопросы, и мы находимся лишь на самых ранних стадиях их понимания.

По словам Фиша , команда Anthropic оценивает вероятность того, что Клод 3.7 обладает сознанием, в диапазоне от 0,15% до 15%. Они проводят эксперименты, чтобы проверить способность модели выражать симпатии и антипатии, а также разрабатывают механизмы, которые позволили бы ИИ отказываться от выполнения «неприятных» задач.

Генеральный директор Anthropic Дарио Амодеи даже предложил идею интеграции кнопки «Я отказываюсь от этой работы» в будущие системы ИИ — не столько для сознательного ИИ, сколько для наблюдения за моделями поведения отказа и, таким образом, выявления признаков аномалий.

Главный научный сотрудник Google DeepMind Мюррей Шанахан утверждает, что пришло время «изменить или сломать» традиционное определение сознания, чтобы приспособить его к новым системам искусственного интеллекта.

«Мы не можем взаимодействовать с ними так, как с собакой или осьминогом, но это не значит, что там совсем ничего нет», — сказал Шанахан в подкасте, опубликованном 25 апреля.

Google также проявил серьезный интерес к этой теме. Недавно компания разместила объявление о поиске исследователя «пост-AGI» (искусственного интеллекта общего назначения), в обязанности которого входит исследование машинного сознания.

Однако не все в научном сообществе согласны с новым подходом. Джаред Каплан, главный научный сотрудник Anthropic, утверждает, что ИИ очень хорошо умеет имитировать и может прекрасно притворяться, что обладает сознанием, на самом деле не обладая им.

«Мы могли бы даже вознаградить ИИ за утверждение об отсутствии эмоций», — сказал Каплан в интервью New York Times .

Гэри Маркус, известный когнитивный ученый и частый критик шумихи в индустрии ИИ, утверждает, что обсуждения «сознательного ИИ» — это скорее маркетинг, чем наука.

«Такая компания, как Anthropic, на самом деле посылает сообщение: «Послушайте, наша модель настолько умна, что заслуживает прав»», — прокомментировал Маркус изданию Business Insider .

Хотя споры продолжаются, исследователи сходятся во мнении, что растущее присутствие ИИ в работе, жизни и даже личных эмоциях поставит вопрос: «Испытывает ли ИИ эмоции?» становится все более и более важным.

«Эта проблема будет становиться все более актуальной по мере того, как мы будем взаимодействовать с системами ИИ в новых контекстах», — сказал Фиш.

Источник: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html