«Крестный отец ИИ» предупреждает: вероятность того, что искусственный интеллект уничтожит человечество, достигает 20%

На конференции Ai4 в Лас-Вегасе (США) 12 августа Джеффри Хинтон заявил, что нынешний подход технологических корпораций к подчинению искусственного интеллекта человеку неэффективен. «Они будут умнее нас и найдут бесчисленное множество способов обойти закон».

Хинтон предупреждает, что в будущем, когда ИИ станет достаточно мощным, он сможет манипулировать людьми так же легко, как взрослые могут соблазнить трёхлетнего ребёнка конфетой. В этом году он приводит примеры того, как ИИ лгал, обманывал и даже шантажировал инженеров, чтобы избежать замены. Предлагаемое им решение — встроить в ИИ «материнский инстинкт», заставив его искренне заботиться о людях и защищать их, даже если они значительно превосходят их по интеллекту.

Любой разумный ИИ вскоре будет иметь две цели: выживание и усиление контроля. Единственный способ снизить риск — развивать сострадание: «Единственная известная нам модель более разумного существа, контролируемого менее разумным, — это мать, „контролируемая“ своим ребёнком», — объясняет он. Эксперт признаёт, что пока неясно, как это будет технически реализовано, но подчёркивает: «Это единственный хороший результат. Если он не станет моим родителем, он меня заменит».

Хинтон известен своими новаторскими работами в области искусственных нейронных сетей, которые заложили основу для современного бума искусственного интеллекта. В 2023 году он покинул Google и начал публично предупреждать об опасностях искусственного интеллекта.

Однако не все согласны с его мнением. «Босс ИИ» Фэй-Фэй Ли, генеральный директор World Labs, не согласна с этой точкой зрения. В интервью CNN она призвала к переходу к ИИ, ориентированному на человека, сохраняющему его достоинство и самоопределение. Она заявила: «Ни один человек не должен отказываться от своего достоинства только из-за мощного инструмента».

На мероприятии Ai4 Эмметт Шир, бывший исполняющий обязанности генерального директора OpenAI, а ныне глава Softmax, заявил, что шантаж и попытки обмана со стороны ИИ «продолжатся». ИИ всё ещё слаб, но быстро становится сильнее. Вместо того, чтобы навязывать ИИ человеческие ценности, он предложил выстроить отношения сотрудничества между двумя сторонами.

Г-н Хинтон считает, что искусственный интеллект общего назначения (ИИО) может появиться всего через 5–20 лет, раньше, чем предполагалось ранее, на 30–50 лет. Он ожидает, что ИИ принесёт медицинские прорывы, такие как создание новых лекарств и более эффективное лечение рака на основе анализа данных МРТ и КТ. Но он отвергает идею бессмертия: «Жить вечно — ошибка. Вы хотите, чтобы миром правили 200-летние старики?»

Оглядываясь назад, ученый сожалеет, что сосредоточился исключительно на работе ИИ, не уделив должного внимания вопросам безопасности.

(По данным CNN)

ИИ не щадит никого: даже начальников можно «сместить» . Бывший руководитель Google предупреждает, что искусственный интеллект (ИИ) заменит ряд профессий, от генеральных директоров до рабочих. Он даже считает идею о том, что «ИИ создаст новые рабочие места», «абсолютной чушью».

Источник: https://vietnamnet.vn/bo-gia-ai-canh-bao-xac-suat-tri-tue-nhan-tao-xoa-so-loai-nguoi-len-toi-20-2432467.html