OpenAI и Anthropic поделились новейшими моделями ИИ с правительством США

Компании будут сотрудничать с Институтом безопасности искусственного интеллекта США (US AI Safety Institute), подразделением Национального института стандартов и технологий (NIST), федерального агентства США. Это рассматривается как важный шаг в управлении и контроле за технологиями искусственного интеллекта, которые вызывают серьёзную озабоченность с момента запуска ChatGPT от OpenAI.

«Это только начало, но важная веха в усилиях по ответственному управлению будущим ИИ», — заявила Элизабет Келли, директор Института безопасности ИИ США.

В рамках соглашения Институт безопасности искусственного интеллекта США будет предоставлять обеим компаниям обратную связь по потенциальным улучшениям безопасности их моделей как до, так и после их выпуска для широкой публики. Институт также будет тесно сотрудничать с Институтом безопасности искусственного интеллекта Великобритании в этом процессе.

«Партнёрство с Институтом безопасности искусственного интеллекта США (ИИ) позволяет использовать их обширный опыт для тщательного тестирования наших моделей перед их широким внедрением. Это расширяет наши возможности по выявлению и снижению рисков, способствуя ответственной разработке ИИ», — заявил Джек Кларк, соучредитель и руководитель отдела политики Anthropic.

Этот шаг является частью усилий по реализации указа Белого дома по ИИ, который должен быть принят в 2023 году и направлен на создание правовой основы для быстрого развертывания моделей ИИ в США.

Но пока федеральное правительство придерживается добровольного подхода, законодатели Калифорнии, технологического центра Америки, 28 августа приняли законопроект о безопасности ИИ на уровне штата. Законопроект, если его подпишет губернатор, введет более строгие правила в отношении отрасли ИИ.

Сэм Альтман, генеральный директор OpenAI, высказался в поддержку регулирования ИИ на национальном уровне, а не на уровне штатов, утверждая, что это поможет избежать риска создания препятствий для исследований и инноваций в области ИИ.

Действия ведущих технологических компаний и правительства США демонстрируют тенденцию к достижению баланса между инновациями и безопасностью в быстро развивающейся сфере ИИ.