По данным Reuters, в 20-страничном документе, опубликованном 26 ноября, 18 стран согласились с тем, что компании, занимающиеся исследованиями и применением искусственного интеллекта, должны разрабатывать и внедрять технологию таким образом, чтобы защитить клиентов и общественность от злоупотреблений.

Соглашение не носит обязательный характер и в основном содержит общие рекомендации, такие как мониторинг систем ИИ для обнаружения и предотвращения злоупотреблений, защита данных и проверка поставщиков программного обеспечения.

Однако Джен Истерли, директор Агентства США по кибербезопасности и безопасности инфраструктуры, отметила, что важно, чтобы так много стран разделяли мнение о том, что системы ИИ должны ставить безопасность на первое место.

«Это первый случай, когда страны объединились и заявили, что эти возможности связаны не только с привлекательностью функций, с тем, как быстро мы можем вывести их на рынок или как мы можем конкурировать, чтобы снизить издержки», — сказал Истерли агентству Reuters. Чиновник заявил, что руководство представляет собой «соглашение о том, что самое главное, что необходимо обеспечить на этапе проектирования, — это безопасность».

Соглашение является последним в серии инициатив правительств по всему миру, направленных на формирование развития ИИ. Влияние ИИ все больше ощущается в отраслях и обществе в целом.

В документе рассматриваются вопросы защиты систем искусственного интеллекта от хакерских атак и содержатся такие рекомендации, как выпуск новых моделей только после тщательного тестирования безопасности. Новое руководство не затрагивает сложные вопросы, связанные с надлежащим использованием ИИ или сбором данных, которые используются в этих моделях.

Развитие искусственного интеллекта вызвало множество опасений, включая опасения, что ИИ может быть использован для подрыва демократического процесса, содействия мошенничеству или приведения к массовой безработице, а также для нанесения другого вреда.

Европа опережает США в принятии нормативных актов, связанных с ИИ. Франция, Германия и Италия также недавно достигли соглашения о регулировании сектора в отношении базовых моделей ИИ.

Администрация Байдена оказывала давление на законодателей по вопросу регулирования ИИ, однако глубоко поляризованный Конгресс не добился существенного прогресса в принятии эффективных правил.

Белый дом стремился снизить риски, связанные с ИИ, для потребителей, работников и меньшинств, одновременно укрепляя национальную безопасность с помощью нового указа, принятого в октябре.