OpenAI поддерживает идею новых лицензий для разработки продвинутых моделей ИИ

Соответственно, компания, владеющая ChatGPT и Dall-E, взяла на себя ряд обязательств в отношении политики в области ИИ. «Компания стремится сотрудничать с правительством США и политиками по всему миру, чтобы поддержать разработку требований лицензирования для всех высокопроизводительных моделей ИИ в будущем».

Идея процесса лицензирования ИИ, совместно продвигаемая лидерами отрасли, такими как OpenAI, и правительством, создает условия для потенциального конфликта между стартапами и разработчиками ПО с открытым исходным кодом, которые видят в ней попытку затруднить выход в сферу ИИ.

Раскрытие информации OpenAI произошло на фоне того, что другие крупные компании в области ИИ, такие как Microsoft и Google, также рассматривают возможность принятия аналогичных мер.

Однако вице-президент компании по глобальным вопросам Анна Маканджу заявила, что документ о внутренней политике будет отличаться от той, которую, как ожидается, опубликует Белый дом. OpenAI заявила, что компания не «навязывает», а считает лицензирование «практичным» способом государственного регулирования новых систем.

«Правительствам важно знать, могут ли эти сверхмощные системы потенциально причинить вред», и «у властей очень мало способов узнать об этих системах, не сообщая о них самим».

Маканджу заявил, что OpenAI поддерживает лицензирование только более мощных моделей ИИ, чем GPT-4, и хочет гарантировать, что небольшим стартапам не придется нести бремя регулирования.

Подотчетность и прозрачность

OpenAI также заявила во внутренней документации о своей готовности более открыто говорить о данных, используемых для обучения генераторов изображений, таких как Dall-E. Компания заявляет о своей приверженности прозрачному и ответственному подходу к данным, используемым для разработки ИИ.

Аналитики отметили, что обязательства, изложенные в меморандуме OpenAI, в значительной степени соответствуют некоторым политическим предложениям Microsoft, сделанным в мае. OpenAI отметила, что, несмотря на инвестиции в размере 10 миллиардов долларов от Microsoft, она остаётся независимой компанией.

Кроме того, компания, которой принадлежит ChatGPT, также провела исследование водяных знаков, чтобы отслеживать подлинность и авторские права на изображения, созданные с помощью ИИ.

В меморандуме OpenAI, по всей видимости, признаёт потенциальные риски, которые системы ИИ представляют для рынка труда, а также неравенство. В проекте меморандума компания заявила, что проведёт исследование и предоставит рекомендации политикам для защиты экономики от потенциальных «переломов».

Компания также заявила, что открыта для доступа и тестирования своих систем на предмет уязвимостей в различных областях, включая оскорбительный контент, манипуляции и дезинформацию, и поддерживает создание совместного центра обмена информацией по кибербезопасности.

(По данным Bloomberg)