Искусственный интеллект (ИИ) стал самой обсуждаемой темой в технологической отрасли с тех пор, как OpenAI анонсировала ChatGPT в ноябре 2022 года. Вскоре после этого такие компании, как Google, Meta, Microsoft… также вложили значительные средства в собственные разработки в области ИИ.

Крупные технологические компании не стесняются своих амбиций в отношении ИИ, но в последнее время они тихонько реагируют на риски, которые эта технология несет для их бизнеса. В своем годовом отчете за 2023 год Alphabet (материнская компания Google) заявила, что продукты и услуги на основе ИИ создают этические, технологические, юридические и нормативные проблемы... которые могут негативно повлиять на бренды и спрос.

По данным Bloomberg, Meta, Microsoft и Oracle также упоминали опасения по поводу ИИ в своих документах, поданных в Комиссию по ценным бумагам и биржам США (SEC), часто в разделе «факторы риска». Например, Microsoft отмечает, что функции генеративного ИИ могут быть уязвимы для непредвиденных угроз безопасности.

В годовом отчете Meta за 2023 год материнская компания Facebook подчеркнула, что «разработка и внедрение ИИ сопряжены со значительными рисками», и что «не может быть никаких гарантий, что использование ИИ улучшит услуги, продукты или принесет пользу бизнес-операциям». Мета перечисляет сценарии ИИ, которые могут нанести вред пользователям и подвергнуть их судебному преследованию, такие как дезинформация (например, на выборах), вредоносный контент, нарушение прав интеллектуальной собственности и конфиденциальность данных.

Между тем общественность также выразила обеспокоенность тем, что из-за искусственного интеллекта некоторые профессии станут ненужными или исчезнут, а большие языковые модели, обученные на персональных данных, будут распространять дезинформацию.

4 июня группа бывших и действующих сотрудников OpenAI направила «письмо о намерениях» с просьбой к технологическим компаниям сделать больше для минимизации рисков ИИ. Они обеспокоены тем, что ИИ усиливает неравенство, манипуляции, дезинформацию и что неконтролируемые автоматизированные системы ИИ угрожают выживанию человечества.