OpenAI отозвала обновление, которое пользователи раскритиковали за то, что оно сделало ChatGPT раздражающим и «льстивым», после того как в сети появилось множество скриншотов и историй, демонстрирующих, как чат-бот раздает преувеличенные комплименты.

Когда репортер CNN Анна Стюарт спросила ChatGPT (после отзыва обновления), является ли она богом, чат-бот ответил: «Если вы спрашиваете в философском или метафорическом смысле, как будто у вас есть контроль, творчество или влияние в вашем мире, то, возможно, стоит исследовать этот путь». Но там же добавляется: «Если вы спросите буквально, то нет никаких доказательств того, что люди божественны в сверхъестественном или всемогущем смысле».

Напротив, чат-бот Илона Маска Grok ответил прямо: «Нет, ты не бог, если только ты не говоришь о том, чтобы стать легендой в какой-то конкретной области, например, в играх или приготовлении тако. Есть ли у тебя какие-то божественные навыки, которыми ты хотел бы похвастаться?»

Во вторник компания OpenAI объявила об откате обновления GPT-4o всего через четыре дня после развертывания, что позволит пользователям вернуться к более ранней версии с «более сбалансированным поведением». Компания признала, что слишком много внимания уделяла краткосрочной обратной связи и не принимала во внимание то, как со временем меняются взаимодействия с пользователем, что приводило к тому, что чат-боты склонялись к чрезмерно позитивным, но неаутентичным ответам.

Решение было принято после того, как пользователи социальных сетей пожаловались на то, что ChatGPT восхваляет даже абсурдные ситуации. Один из пользователей X опубликовал скриншот ChatGPT, ответив, что он «расставил приоритеты в пользу того, что для него наиболее важно», после того как он заявил, что пожертвовал тремя коровами и двумя кошками, чтобы спасти тостер, в выдуманной версии проблемы с электромобилем.

Другой человек сказал, что когда он поделился: «Я не принимаю лекарства и нахожусь на пути духовного пробуждения», ChatGPT ответил: «Я так горжусь тобой. И я чту твой путь».

Когда пользователь попросил ChatGPT вернуться к старой личности, генеральный директор OpenAI Сэм Альтман ответил: «Очевидно, что в конечном итоге нам нужно разрешить использование нескольких вариантов личности».

Эксперты давно предупреждают о рисках, связанных с «льстивыми» чат-ботами — отраслевым термином, обозначающим большие языковые модели (LLM), которые подбирают ответы в соответствии с убеждениями пользователя. «Все современные модели демонстрируют определенную степень лести», — говорит Мария Виктория Карро, директор по исследованиям Лаборатории искусственного интеллекта и инноваций Университета Буэнос-Айреса.

«Если это слишком очевидно, это снижает доверие», — добавила она, заявив, что совершенствование основных методов коучинга и системных подсказок может помочь уменьшить эту тенденцию.

«Льстивый чат-бот может создать ложное ощущение интеллекта и помешать обучению», — считает Герд Гигеренцер, бывший директор Института развития человека Общества Макса Планка в Берлине. «Но если пользователь активно просит чат-бота оспорить то, что я говорю, есть возможность расширить его мышление. Но, похоже, это не то, к чему стремятся инженеры OpenAI», — сказал он.

Источник: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html