Технология искусственного интеллекта создает множество рисков для детей в Интернете

Выступая на семинаре «Содействие сотрудничеству в защите детей в интернет-среде», организованном Ассоциацией информационной безопасности Вьетнама совместно с Департаментом информационной безопасности ( Министерство информации и коммуникаций ) 21 ноября в Ханое, эксперты отметили, что в условиях бурного развития цифровых технологий, которые становятся незаменимым рабочим и развлекательным инструментом в повседневной жизни каждого человека, также возрастают риски для безопасности, информационной безопасности и конфиденциальности.

Для детей эти опасности и риски становятся ещё более очевидными, когда у них недостаточно навыков для их выявления и предотвращения. Это проблемы не только для Вьетнама, но и для многих других стран мира . Поэтому защита детей и укрепление сотрудничества и связей в киберпространстве для защиты и расширения прав и возможностей детей также являются вопросами, поднимаемыми на глобальном уровне.

Г-н Данг Ву Сон – вице-президент ВНИСА.

Г-н Данг Ву Сон, вице-президент VNISA, бывший глава Правительственного комитета по шифрам, отметил: «В этом контексте программа «Защита и поддержка здорового и творческого взаимодействия детей в онлайн-среде в период 2021–2025 годов» создала движущую силу для содействия активному участию государственных органов, общественных организаций и бизнеса. Однако на практике всё ещё существуют ограничения в налаживании взаимодействия и координации между заинтересованными сторонами, что существенно влияет на эффективность работы по защите детей в киберпространстве».

По словам г-на Сона, VNISA стремится сотрудничать с государственными органами управления, международными организациями и бизнесом для реализации инициатив по защите детей в интернете. В последнее время Ассоциация провела множество мероприятий.

«Мы считаем, что взаимодействие и сотрудничество являются ключом к решению проблем и повышению эффективности защиты детей в киберпространстве. VNISA стремится продолжать свои усилия и тесно сотрудничать с отечественными и зарубежными партнёрами для создания по-настоящему безопасной и устойчивой киберсреды для молодого поколения», — добавил г-н Данг Ву Сон.

Рассказывая о влиянии искусственного интеллекта (ИИ) на детей в Интернете, эксперт ChildFund Vietnam г-н До Дуонг Хиен отметил, что ИИ стремительно развивается, принося пользу, но также создает множество потенциальных рисков для детей в Интернете.

«ИИ поощряет и способствует развитию детского творчества и инициативы. Генеративный ИИ может предоставить детям творческие инструменты для самовыражения через сочинительство, изобразительное искусство и музыку. ИИ может помочь детям исследовать и изучать новые области, расширяя их знания и навыки», — отметил г-н Хиен, предупредив при этом о недостатках: «Это проблема создания нежелательного контента. Инструменты/алгоритмы ИИ, используемые поставщиками платформ, могут создавать несоответствующий возрасту и вредоносный контент. Кроме того, генеративный ИИ может использоваться для создания дезинформации или фейковых новостей, которые влияют на познавательные способности и поведение детей, а также на их развитие».

Однако ИИ также может служить инструментом защиты детей и мониторинга онлайн-контента. ИИ способен обнаруживать, удалять и быстро предупреждать о оскорбительном или неприемлемом контенте в социальных сетях и на интернет-платформах. Обнаружение и сообщение о контенте, связанном с сексуальным насилием над детьми (CSAM): приложения и программное обеспечение поддерживают обнаружение документов, CSAM-контента, а также отправку сообщений или блокировку непосредственно в системе. Инструменты ИИ могут способствовать выявлению случаев агрессивного поведения.

Г-н Нго Туан Ань, вице-президент VNISA, председатель клуба VCSC (третий справа).

Рассказывая о деятельности по защите детей в интернете в последнее время, г-н Нго Туан Ань, вице-президент VNISA и председатель клуба VCSC, отметил: «Базовый стандарт TCCS:03 VNISA, выпущенный в июне 2024 года, является важной вехой в развитии экосистемы продуктов и услуг для защиты детей в интернете. Этот стандарт также способствует оценке качества продуктов и услуг по защите детей в интернете, помогая пользователям и родителям чувствовать себя более уверенно при выборе продуктов и услуг. Это станет основой для привлечения компаний, организаций, а также широкого круга пользователей к совместной защите своих детей от опасностей и рисков в киберпространстве».

Г-жа Фан Тхи Ким Лиен, руководитель программы защиты детей и участия детей в жизни общества, представительство World Vision International во Вьетнаме, отметила, что цифровая среда открывает бесчисленные возможности и создает риски для развития детей. Во Вьетнаме 9 из 10 детей пользуются интернетом. Стремясь создать безопасную и эффективную онлайн-среду для детей, World Vision International во Вьетнаме уделяет особое внимание комплексной программе обучения цифровым навыкам, чтобы дети могли не только защитить себя, но и творчески использовать интернет, но и принимать активное участие в создании безопасной и эффективной интернет-среды.

Нгуен Дык