Потенциал сопряжен с риском

Невозможно отрицать, что искусственный интеллект (ИИ) все чаще оказывается мощным инструментом поддержки работников и облегчения жизни людей. Однако эти технологические продукты подобны «палке о двух концах», когда их используют злоумышленники для совершения мошенничества и атак в киберпространстве.

В предупреждающих бюллетенях Департамента информационной безопасности (Министерства информации и коммуникаций) или Ассоциации кибербезопасности упоминается множество зафиксированных случаев мошенничества с использованием технологий искусственного интеллекта. Например, г-жа Нгуен Тхань Т., офисный работник из Ханоя, общалась с другом через Facebook Messenger, тот попрощался и закончил разговор, но внезапно вернулся к текстовому сообщению, попросив денег в долг и предложив перевести их на банковский счет. Несмотря на то, что имя учетной записи совпадало с именем ее подруги, у г-жи Т. возникли подозрения, поэтому она запросила видеозвонок для проверки. Друг сразу же согласился, но звонок длился всего несколько секунд из-за «прерывистой связи».

Увидев лицо своей подруги во время видеозвонка и услышав ее голос, г-жа Т. перевела деньги. Однако только после успешного перевода денег она поняла, что попала в хакерскую ловушку.

Не только г-жа Т., но и многие другие жертвы, друзья и родственники, были обмануты таким же образом. Сумма денег, которую мошенники выманили, используя инструменты и голоса Deep fake, достигла десятков миллионов донгов.

Другим типичным примером использования ИИ для присвоения активов является случай г-на NTH, когда при использовании телефона Android мошенники установили ловушку с инструкцией по установке вредоносной ссылки. После этого он берет под контроль телефоны и банковские счета, чтобы переводить деньги третьим лицам. Кроме того, вредоносная программа автоматически связывается с доступными контактными данными и отправляет автоматические сообщения с просьбой о переводе денег.

Г-н NTH сообщил, что самозванец представился «полицейским», позвонил по его номеру телефона и попросил подтвердить его личные данные. Поскольку жертва была пожилой, незнакомой с технологиями и доверчивой, она передала свой телефон третьему лицу, чтобы тот выполнил инструкции мошенника, тем самым загрузив и установив на свой телефон вредоносное приложение «DichVuCong.apk».

Г-н Тран Нгуен Чунг, руководитель Департамента безопасности информационных систем (Департамент информационной безопасности), сказал: «По мере развития технологий ИИ обнаружение и различение реального и поддельного контента в киберпространстве станет более сложной задачей, и любой может стать целью, жертвой кибератак преступников, использующих технологии ИИ. Однако станете ли вы жертвой или нет, зависит от того, насколько хорошо вы вооружитесь необходимыми знаниями и информацией.

Подобная ситуация с мошенничеством с использованием технологий искусственного интеллекта наблюдается не только во Вьетнаме, но и во многих странах мира. В настоящее время агентства, организации и крупные технологические корпорации работают вместе над поиском мер и технических решений для обнаружения и предотвращения этой угрозы на начальном этапе.

В настоящий момент важной мерой является содействие пропаганде, повышение осведомленности людей о методах, приемах и способах распознавания и борьбы с этой сложной формой подделки, чтобы помочь уменьшить и ограничить влияние дипфейка на деятельность в киберпространстве. Заблаговременно публиковать предупреждения в средствах массовой информации о новых событиях и формах мошенничества.

«В случае получения угрожающих звонков с конфиденциальными изображениями или видео людям необходимо сохранять спокойствие, проверять и тщательно исследовать происхождение изображений и видео», — сказал г-н Тран Нгуен Трунг.

Согласно исследовательскому отчету «Определение рисков для мировой экономики в 2024 году», подготовленному Университетом экономики (UEB) при Вьетнамском национальном университете в Ханое, одним из рисков, влияющих на мировую экономику, является риск в технологическом секторе. В отчете утверждается, что в условиях быстрого развития ИИ регуляторная политика пока не успевает за развитием ИИ. Дезинформация, генерируемая ИИ, особенно в год, когда по всему миру проводится много выборов, как в этом году, создает множество проблем для безопасности, политики, обороны и мира во всем мире.

В беседе с журналистами газеты Tin Tuc заместитель министра науки и технологий Нгуен Хоанг Жанг сказал: «Премьер-министр издал Постановление № 127/2021 о национальной стратегии исследований, разработки и применения искусственного интеллекта до 2030 года. Для его реализации Министерство науки и технологий, а также другие министерства и отрасли внедряют его радикально и синхронно, например, Министерство юстиции исследует юридический аспект. Министерство информации и коммуникаций исследует цифровые технологии. Министерство науки и технологий также поддерживает, исследует и развивает промышленность 4.0; исследует и применяет развитие информационных технологий, служа развитию цифровых и умных городов. Однако с быстрым и сильным развитием также проявляются негативные аспекты и риски ИИ, когда он используется киберпреступниками в целях мошенничества, выдачи себя за другое лицо, угроз, присвоения имущества и т. д.

До настоящего времени Министерство науки и технологий и правительство наряду с исследованиями также активно создают правовую базу, изучая опыт других развитых стран, чтобы сфера ИИ во Вьетнаме могла развивать свой потенциал, способствовать развитию, а также строго контролировать, обеспечивать этику и гуманность в области искусственного интеллекта.

Стремительное развитие инструментов искусственного интеллекта подняло множество вопросов, касающихся прав человека, этики, конфиденциальности, информационной безопасности и юридической ответственности. Вьетнам по сравнению с остальным миром все еще находится на ранних стадиях развития ИИ. Поэтому необходимы конкретные правила и политика в области ИИ, которые подходят для всех аспектов жизни, экономики и общества во Вьетнаме.

Срочно выпустить правовую базу

Управление темной стороной ИИ также является темой, которая обсуждается в некоторых странах. Парламент Европейского союза одобрил первый в мире свод основных правил регулирования искусственного интеллекта. Многие эксперты в области технологий полагают, что этот Кодекс поможет ЕС достичь обеих целей: минимизировать негативное влияние технологических разработок на пользователей, а также преодолеть доминирующее положение основных конкурентов на рынке.

Вскоре после этого Генеральная Ассамблея Организации Объединенных Наций приняла резолюцию об искусственном интеллекте (ИИ), обеспечив всеобщую поддержку международным усилиям по обеспечению того, чтобы эта новая технология приносила пользу всем странам, обеспечивала соблюдение прав человека и была «безопасной, защищенной и заслуживающей доверия».

Г-н Ву Нгок Сон, технический директор National Cyber ​​​​Security Technology Joint Stock Company, сказал: «ИИ — это технология, которая служит интересам человека, поддерживая автоматизацию множества различных этапов работы. Это мощный инструмент, используемый для множества различных целей, таких как предоставление услуг вопросов и ответов, производство программного обеспечения и т. д. Однако ИИ также имеет отрицательную сторону, когда он попадает в руки злоумышленников с целью создания мошеннического контента и вредоносных кодов для атак на пользователей. Соответственно, ИИ не является инструментом специально для создания продуктов или преступлений, но важным вопросом является «как использовать» ИИ.

«Я думаю, что санкции и правовые коридоры на самом деле не соответствуют скорости развития ИИ. Нам понадобится время, чтобы разработать и внедрить политику, ограничивающую риски использования ИИ в плохих целях, затрагивающие права человека, а также вопросы безопасности, порядка и социальной защищенности», — сказал г-н Ву Нгок Сон.

Доктор Данг Минь Туан, директор Института CMC ATI, сказал: «С одной стороны, нам все еще нужно продолжать исследовать и разрабатывать новые технологии, обновлять и изучать приемы использования ИИ в плохих целях. С другой стороны, мы также должны поощрять честность в науке и в работе. Соответственно, должны быть корректировки и инвестиции в контент и конкретные политики для этого инструмента во Вьетнаме. В частности, мы также можем использовать инструменты ИИ для обнаружения вредоносного контента и кода. ИИ — это как «палка о двух концах», создающая непрерывный, непрерывный и непрерывно совершенствующийся процесс с конечной целью — служить интересам человека».

Эксперты утверждают, что необходимо ответственно контролировать разработку высокотехнологичной продукции, поскольку неспособность регулировать и осваивать технологии приведет к непредсказуемым последствиям, нанося ущерб экономике и затрагивая как каждого отдельного человека, так и все общество.

Принятие конкретных и прозрачных правил не только поможет предотвратить и минимизировать риски, которые может вызвать ИИ, но и поможет Вьетнаму привлечь внимание и инвестиции со стороны ведущих мировых технологических предприятий, способствуя развитию отечественной индустрии информационных технологий и ИИ.

Заключительная статья: Параллельная разработка и управление ИИ