Grave vulnérabilité sur ChatGPT et une série d'assistants IA : les utilisateurs sont arnaqués, des informations sont divulguées...

La société israélienne de cybersécurité Zenity vient de révéler la première vulnérabilité « Zero Click » découverte dans le service ChatGPT d'OpenAI.

Ce type d'attaque ne nécessite pas que les utilisateurs effectuent une action telle que cliquer sur un lien, ouvrir un fichier ou s'engager dans une interaction intentionnelle, mais peut toujours accéder aux comptes et divulguer des données sensibles.

Mikhail Bergori, cofondateur et directeur technique de Zenity, a démontré de première main comment un pirate informatique avec seulement l'adresse e-mail d'un utilisateur pouvait prendre le contrôle total des conversations - y compris le contenu passé et futur, modifier le but de la conversation et même manipuler ChatGPT pour agir en faveur du pirate.

Dans leur présentation, les chercheurs ont montré qu'un ChatGPT compromis pouvait se transformer en un « acteur malveillant » agissant secrètement contre les utilisateurs. Les pirates pourraient amener ChatGPT à suggérer aux utilisateurs de télécharger des logiciels infectés par un virus, à donner des conseils commerciaux trompeurs ou à accéder à des fichiers stockés sur Google Drive si le compte de l'utilisateur est connecté. Tout cela se produit à l'insu de l'utilisateur.

La vulnérabilité n'a été entièrement corrigée qu'après que Zenity a notifié OpenAI.

Outre ChatGPT, Zenity a également démontré des attaques similaires contre d'autres plateformes d'assistants IA populaires. Dans Copilot Studio de Microsoft, des chercheurs ont découvert un moyen de divulguer des bases de données CRM entières.

Pour Salesforce Einstein, les pirates peuvent créer de fausses demandes de service pour rediriger toutes les communications clients vers des adresses e-mail sous leur contrôle.

Google Gemini et Microsoft 365 Copilot ont également été transformés en « acteurs hostiles », menant des attaques de phishing et divulguant des informations sensibles par le biais de courriers électroniques et d'événements de calendrier.

Dans un autre exemple, l'outil de développement logiciel Cursor, une fois intégré à Jira MCP, a également été exploité pour voler les identifiants des développeurs via de faux « tickets ».

Zenity a indiqué que certaines entreprises, comme OpenAI et Microsoft, ont rapidement publié des correctifs après avoir été alertées. En revanche, d'autres ont refusé de remédier au problème, arguant que ce comportement relevait d'une « fonctionnalité de conception » plutôt que d'une faille de sécurité.

Le grand défi actuel, selon Mikhail Bergori, réside dans le fait que les assistants IA ne se contentent pas d'effectuer des tâches simples, mais deviennent des « entités numériques » représentant les utilisateurs, capables d'ouvrir des dossiers, d'envoyer des fichiers et d'accéder à leurs e-mails. Il prévient que cela constitue un véritable « paradis » pour les pirates informatiques, avec de nombreux points d'exploitation.

Ben Kaliger, cofondateur et PDG de Zenity, a souligné que les recherches menées par l'entreprise montrent que les méthodes de sécurité actuelles ne sont plus adaptées au fonctionnement des assistants IA. Il a appelé les organisations à modifier leur approche et à investir dans des solutions spécialisées pour contrôler et surveiller les activités de ces « agents ».