Le potentiel comporte des risques

Il est indéniable que l’intelligence artificielle (IA) s’avère de plus en plus être un outil puissant pour soutenir les travailleurs et faciliter la vie humaine. Cependant, ces produits technologiques sont comme une « épée à double tranchant » lorsqu’ils sont exploités par des malfaiteurs pour commettre des fraudes et des attaques dans le cyberespace.

Les bulletins d'alerte du Département de la sécurité de l'information (ministère de l'Information et des Communications) ou de l'Association de cybersécurité citent de nombreux cas de fraude enregistrés utilisant la technologie de l'IA. Par exemple, Mme Nguyen Thanh T, une employée de bureau à Hanoi, alors qu'elle discutait avec un ami via Facebook Messenger, l'ami lui a dit au revoir et a mis fin à la conversation, mais est soudainement revenu au texte, demandant à emprunter de l'argent et suggérant de transférer de l'argent sur un compte bancaire. Même si le nom du compte correspondait au nom de son amie, Mme T était méfiante et a donc demandé un appel vidéo pour vérifier. L'ami a accepté immédiatement, mais l'appel n'a duré que quelques secondes en raison d'un « réseau intermittent ».

Voyant le visage de son amie dans l'appel vidéo et la voix qui lui convenait, Mme T a transféré l'argent. Cependant, ce n'est qu'après le transfert d'argent réussi qu'elle a réalisé qu'elle était tombée dans le piège d'un pirate informatique.

Non seulement Mme T., mais de nombreuses autres victimes, amis et proches, ont également été trompés de la même manière. Le montant d'argent que les méchants ont escroqué en se faisant passer pour des outils et des voix Deep Fake a atteint des dizaines de millions de dongs.

Un autre exemple typique d'utilisation de l'IA pour s'approprier des actifs est le cas de M. NTH, lorsqu'il utilise un téléphone Android, des escrocs tendent un piège avec des instructions pour installer un lien malveillant. À partir de là, il prend le contrôle des téléphones et des comptes bancaires pour transférer de l’argent à des tiers. De plus, le logiciel malveillant contacte automatiquement les coordonnées disponibles et envoie des messages automatiques demandant des transferts d'argent.

M. NTH a déclaré que l'imposteur avait prétendu être un « policier », avait appelé son numéro de téléphone et avait demandé à vérifier ses informations d'identification personnelle. Parce qu'il était âgé, peu familier avec la technologie et crédule, la victime a remis son téléphone à une tierce personne pour qu'elle suive les instructions de l'escroc, téléchargeant et installant ainsi l'application malveillante « DichVuCong.apk » sur son téléphone.

M. Tran Nguyen Chung, chef du département de la sécurité des systèmes d'information (département de la sécurité de l'information) a déclaré : Lorsque la technologie de l'IA sera développée, la détection et la distinction entre le contenu réel et le faux dans le cyberespace deviendront plus difficiles et n'importe qui peut devenir une cible, une victime de cyberattaques par des criminels utilisant la technologie de l'IA. Cependant, le fait que vous deveniez ou non une victime dépend de la façon dont vous vous équipez des connaissances et des informations nécessaires.

Cette situation de fraude à la technologie de l’IA n’apparaît pas seulement au Vietnam mais également dans de nombreux pays du monde. Actuellement, les agences, les organisations et les grandes entreprises technologiques travaillent ensemble pour trouver des mesures et des solutions techniques pour détecter et prévenir le phénomène à la racine.

À l’heure actuelle, la mesure importante est de promouvoir la propagande, de sensibiliser les gens aux méthodes, astuces et moyens de reconnaître et de traiter cette forme sophistiquée de falsification afin de contribuer à réduire et à limiter l’impact du deepfake sur les activités dans le cyberespace. Diffuser de manière proactive des avertissements à grande échelle dans les médias de masse lorsque de nouveaux développements et de nouvelles formes de fraude apparaissent.

« En cas de réception d'appels menaçants contenant des images ou des vidéos sensibles, les gens doivent rester calmes, vérifier et rechercher soigneusement l'origine des images et des vidéos », a déclaré M. Tran Nguyen Trung.

Selon le rapport de recherche « Identifier les risques pour l'économie mondiale en 2024 » de l'Université d'économie (UEB) de l'Université nationale du Vietnam à Hanoi, l'un des risques affectant l'économie mondiale est le risque dans le secteur technologique. Le rapport soutient que dans le contexte de l’émergence rapide de l’IA, les politiques réglementaires n’ont pas encore réussi à suivre le développement de l’IA. La désinformation générée par l’IA, en particulier dans une année marquée par de nombreuses élections dans le monde comme cette année, pose de nombreux problèmes de sécurité, de politique, de défense et de paix à l’échelle mondiale.

S'adressant aux journalistes du journal Tin Tuc, le vice-ministre des Sciences et Technologies, Nguyen Hoang Giang, a déclaré : « Le Premier ministre a publié la décision n° 127/2021 sur la stratégie nationale de recherche, de développement et d'application de l'intelligence artificielle jusqu'en 2030. Pour la mettre en œuvre, le ministère des Sciences et Technologies ainsi que d'autres ministères et branches ont mis en œuvre de manière drastique et synchronisée, notamment le ministère de la Justice qui étudie l'aspect juridique. Le ministère de l'Information et des Communications étudie les technologies numériques. Le ministère des Sciences et Technologies a également soutenu, étudié et développé l'industrie 4.0 ; a étudié et appliqué le développement des technologies de l'information, au service du développement des villes numériques et intelligentes. Cependant, avec un développement rapide et fort, les aspects négatifs et les risques de l'IA sont également apparus lorsqu'elle est utilisée abusivement pour devenir un outil par les cybercriminels à des fins de fraude, d'usurpation d'identité, de menaces, d'appropriation de biens, etc.

Jusqu'à présent, parallèlement à la recherche, le ministère des Sciences et de la Technologie et le gouvernement construisent également activement un cadre juridique, en s'inspirant des expériences d'autres pays développés afin que le domaine de l'IA au Vietnam favorise son potentiel, favorise le développement ainsi que contrôle strictement, assure l'éthique et l'humanité dans le domaine de l'intelligence artificielle.

Le développement rapide des outils d’IA a soulevé de nombreuses questions concernant les droits de l’homme, l’éthique, la confidentialité, la sécurité de l’information et la responsabilité juridique. Le Vietnam, comparé au reste du monde, en est encore aux premiers stades du développement de l’IA. Il est donc nécessaire de mettre en place des réglementations et des politiques spécifiques en matière d’IA, adaptées à tous les aspects de la vie, de l’économie et de la société au Vietnam.

Établir d'urgence un cadre juridique

La gestion du côté obscur de l’IA est également un sujet qui a été débattu dans certains pays. Le Parlement de l’Union européenne a approuvé le premier ensemble de règles de base au monde pour réglementer l’intelligence artificielle. De nombreux experts en technologie estiment que ce code aidera l’UE à atteindre deux objectifs : minimiser l’impact négatif des développements technologiques sur les utilisateurs et rattraper la position dominante des principaux concurrents sur le marché.

Peu de temps après, l’Assemblée générale des Nations Unies a adopté une résolution sur l’intelligence artificielle (IA), apportant un soutien mondial à un effort international visant à garantir que cette nouvelle technologie profite à tous les pays, respecte les droits de l’homme et soit « sûre, sécurisée et digne de confiance ».

M. Vu Ngoc Son, directeur technique de la National Cyber ​​​​Security Technology Joint Stock Company, a déclaré : « L'IA est une technologie au service des intérêts humains, permettant l'automatisation de nombreuses étapes opérationnelles. C'est un outil puissant, utilisé à des fins diverses, telles que la fourniture de services de questions-réponses, la production de logiciels, etc. Cependant, l'IA présente également des inconvénients lorsqu'elle tombe entre les mains d'acteurs malveillants qui cherchent à créer des contenus frauduleux et des codes malveillants pour attaquer les utilisateurs. Par conséquent, l'IA n'est pas un outil spécifiquement destiné à la création de produits ou à la criminalité, mais la question importante est de savoir comment l'utiliser. »

« Je pense que les sanctions et les mécanismes juridiques ne sont pas vraiment adaptés au rythme de développement de l'IA. Il nous faudra du temps pour élaborer et mettre en œuvre des politiques visant à limiter les risques liés à l'utilisation de l'IA à des fins malveillantes, portant atteinte aux droits humains ainsi qu'aux questions de sécurité, d'ordre public et de sécurité sociale », a déclaré M. Vu Ngoc Son.

Le Dr Dang Minh Tuan, directeur de l'Institut CMC ATI, a déclaré : « D'une part, nous devons poursuivre la recherche et le développement de nouvelles technologies, ainsi que la mise à jour et l'étude des astuces permettant d'utiliser l'IA à des fins malveillantes. D'autre part, nous devons également promouvoir l'honnêteté dans la science et le travail. Par conséquent, des ajustements et des investissements dans le contenu et des politiques spécifiques à cet outil doivent être réalisés au Vietnam. Nous pouvons notamment utiliser les outils d'IA pour détecter les contenus et codes malveillants. L'IA est une arme à double tranchant : elle crée un processus d'amélioration continue, continu et permanent, dont l'objectif ultime est de servir les intérêts humains. »

Les experts affirment qu’il est nécessaire de contrôler le développement des produits de haute technologie de manière responsable, car l’incapacité à réguler et à maîtriser la technologie entraînera des conséquences imprévisibles, provoquant des pertes pour l’économie et affectant chaque individu ainsi que la société entière.

L'adoption de réglementations spécifiques et transparentes contribuera non seulement à prévenir et à minimiser les risques que l'IA peut causer, mais aidera également le Vietnam à attirer l'attention et les investissements des plus grandes entreprises technologiques du monde, favorisant ainsi le développement de l'industrie nationale des technologies de l'information et de l'IA.

Article final : Développement et contrôle parallèles de l'IA