Безопасность в эпоху высоких технологий

По данным Европола, ИИ «непреднамеренно» помог преступникам повысить эффективность своей деятельности во многих областях, таких как незаконный оборот наркотиков, торговля людьми, киберпреступность и кража личных данных. Эксперт по технологиям Брюс Шнайер, советник Европола, признал: «ИИ делает преступников опаснее, чем когда-либо. Традиционные методы проверки личности уже недостаточно эффективны для борьбы с дипфейками».

«Организованная преступность становится всё более изощрённой и переходит в онлайн-формат, ускоряясь под воздействием искусственного интеллекта и новых технологий. Это гонка между теми, кто использует технологии для совершения преступлений, и теми, кто использует технологии для борьбы с преступностью. Мы должны обеспечить опережение правоохранительных органов», — предупредила исполнительный директор Европола Катрин Де Болле.

В середине февраля этого года в Париже (Франция) прошёл саммит AI Action Summit. Мероприятие проходило на фоне нестабильной ситуации в сфере ИИ, особенно в связи с появлением новых моделей ИИ, которые, как утверждается, оказывают значительное влияние на мировой рынок. Выступая на конференции, президент Франции Эммануэль Макрон выразил надежду на сотрудничество в целях продвижения моделей ИИ с открытым исходным кодом, создания условий для развития бизнеса в этой сфере, а также эффективного предотвращения технологических преступлений.

В конференции приняли участие многие высокопоставленные руководители и предприниматели технологической отрасли, в том числе президент Франции Эммануэль Макрон, премьер-министр Индии Нарендра Моди, вице-президент США Джей Ди Вэнс... а также лидеры из Кремниевой долины, такие как генеральный директор OpenAI, президент Microsoft и генеральный директор Google.

Эксперт по геотехнологиям Ник Райнерс отметил, что конференция может стать возможностью увидеть перестройку глобальной конкуренции в этой области, а также координацию действий в борьбе с высокотехнологичной преступностью с использованием искусственного интеллекта.

Искусственный интеллект стал трендом развития, нравится нам это или нет, но пока ни одна страна не осталась в стороне. Хотя опасения всё ещё существуют. На ежегодном Всемирном экономическом форуме 2025, прошедшем в Давосе (Швейцария) в конце января 2025 года, он также привлек внимание дискуссиями, посвящёнными развитию искусственного интеллекта.

В частности, Генеральный секретарь ООН Антониу Гутерриш выступил с серьёзным предупреждением о двух серьёзных угрозах человечеству: климатическом кризисе и неконтролируемом развитии искусственного интеллекта. Он призвал страны принять срочные меры по ограничению изменения климата и предотвращению наихудших последствий. Говоря об искусственном интеллекте, он подчеркнул, что ИИ приносит много пользы, но также создаёт серьёзные риски, если им не управлять должным образом. Предупреждение заключалось в том, что если ИИ не контролировать должным образом, он может быть использован как инструмент обмана, подрыва экономики и доверия к государственным институтам. Кроме того, он может усугубить неравенство, поскольку многие люди не получают выгод от этой технологии.

С тех пор Генеральный секретарь ООН призвал к глобальному сотрудничеству для решения различных проблем — от климатического кризиса до управления развитием искусственного интеллекта.

Между тем, эксперты прогнозируют, что с появлением искусственного интеллекта человечество может столкнуться с изменениями, более масштабными, чем с появлением любой другой технологии в истории. Доктор Сики Чен, генеральный директор стартапа Runway (США), базирующегося в Сан-Франциско, заявил, что предыдущие технологические достижения, от электричества до интернета, уже привели к серьёзным социальным изменениям. Однако с появлением искусственного интеллекта эти изменения стали ещё более значительными. «С появлением искусственного интеллекта человеческое общество столкнётся с изменениями, более масштабными, чем с появлением любого другого технологического изменения в истории», — сказал доктор Чен, но также предупредил: «Это будет захватывающее, но в то же время пугающее изменение, как палка о двух концах».

По словам доктора Джареда Спатаро, одного из ключевых руководителей корпорации Microsoft, ИИ можно считать «душой труда», если он способен развивать положительные аспекты и ограничивать отрицательные. В частности, это позволяет не допустить злоумышленников, работающих в сфере высоких технологий, воспользоваться преимуществами и доминировать.

По мнению Шарон Чжоу, соучредителя компании, занимающейся разработкой искусственного интеллекта, эта технология «может настигнуть нас быстрее, чем мы сможем с ней справиться». Поэтому опередить её — естественная стратегия, иначе мы рискуем попасть под перекрёстный огонь. Чжоу отметила, что эта технология поднимает вопросы о будущем человечества. «Если что-то окажется сильнее и умнее нас, что это значит для нас? И будем ли мы это использовать? Или оно использует нас?»

Вот почему безопасность — это «обязательное условие», — заявил в интервью MIT Technology Review главный научный сотрудник OpenAI Илья Суцкевер, предположив, что сам международный порядок может оказаться под угрозой, если ИИ будет использоваться злоумышленниками.

Генеральный секретарь ООН Антониу Гутерриш однажды сказал: «Никто не в безопасности, пока все не в безопасности». В нынешнюю эпоху бурного развития искусственного интеллекта это высказывание ещё более актуально, поскольку борьба с высокотехнологичной преступностью не является обязанностью отдельного человека.

«

В цифровую эпоху, с бурным развитием искусственного интеллекта, преступный мир также стремительно меняется с развитием технологий, создавая беспрецедентные вызовы для глобальной безопасности. Согласно отчету компании Palo Alto Networks, занимающейся кибербезопасностью, число глобальных атак с целью вымогательства выросло на 47% в 2024 году по сравнению с 2023 годом, нанеся ущерб более чем в 30 миллиардов долларов США. Злоумышленники теперь не только крадут данные, но и контролируют важные системы для вымогательства. Это уже не просто финансовая проблема, а угроза национальной безопасности. Кроме того, для поддельных звонков используются самые передовые достижения искусственного интеллекта, которые подделывают голос или изображение жертв, нанося огромный ущерб. Отчет Европола показывает, что количество мошенничеств с использованием deepfake выросло на 300% за последние 2 года.