Директор OpenAI заявил, что для борьбы с рисками, связанными с ИИ, необходимы новые правила

«Меня это беспокоит», — сказал генеральный директор Сэм Альтман о возможном использовании ИИ для вмешательства в выборы, подчеркнув необходимость дополнительных правил и рекомендаций для регулирования сферы искусственного интеллекта.

В последние месяцы крупные и мелкие компании спешат вывести на рынок продукты на базе искусственного интеллекта, подстегиваемые ажиотажем вокруг ChatGPT. Некоторые критики опасаются, что эта технология усугубит социальный вред, в том числе усилит предрассудки и распространит дезинформацию.

«Невозможно полностью регулировать ИИ, особенно когда увлечение ИИ набирает обороты во всем мире», — заявил сенатор Кори Букер, один из многих законодателей, задающихся вопросом о том, как лучше всего регулировать ИИ.

Сенатор Мэйзи Хироно отметила риск распространения дезинформации по мере приближения выборов 2024 года. Выступая впервые перед Конгрессом, Альтман предложила США рассмотреть вопрос о требованиях к лицензированию и тестированию при разработке моделей искусственного интеллекта.

Когда его попросили прокомментировать, какой ИИ следует лицензировать, он сказал, что модель, способная убеждать или манипулировать убеждениями человека, «будет предметом рассмотрения».

Он также заявил, что компании должны иметь право заявить, что они не хотят, чтобы их данные использовались для обучения ИИ, и этот вопрос также обсуждается в Конгрессе США.

Белый дом созвал ведущих руководителей технологических компаний, включая Сэма Альтмана, для обсуждения проблемы искусственного интеллекта. Американские законодатели также работают над поиском решений, которые позволят расширить преимущества этой технологии и укрепить национальную безопасность, одновременно ограничивая злоупотребления ИИ.

Недавно сотрудник OpenAI предложил США создать орган по лицензированию ИИ, который можно было бы назвать Управлением по безопасности и защите инфраструктуры ИИ, или OASIS.

OpenAI поддерживается Microsoft. Альтман также призывает к глобальному сотрудничеству в области ИИ и призывает компании соблюдать правила безопасности.

Кристина Монтгомери, директор по доверию и конфиденциальности IBM, призвала Конгресс сосредоточить регулирование на областях с наибольшим потенциалом социального вреда.

Хоанг Тон (по данным NBC, Reuters)