Les chercheurs ont inventé un nouveau concept appelé « économie de l’intention ». Dans cette économie, les entreprises peuvent collecter et analyser d’énormes quantités de données sur notre comportement, nos préférences et nos habitudes pour prédire ce que nous ferons ensuite.

Ils peuvent ensuite vendre ces informations à d'autres entreprises qui souhaitent cibler plus précisément leur publicité vers nous.

Par exemple, disons que vous recherchez un nouveau téléphone. L'IA suivra votre comportement en ligne, les mots-clés que vous recherchez et même vos conversations pour mieux comprendre vos besoins. Les fabricants de téléphones peuvent ensuite utiliser ces informations pour vous montrer des publicités sur les téléphones les mieux adaptés à vos besoins.

« Si rien n’est fait, l’économie de l’intention pourrait devenir un outil de manipulation de nos décisions », prévient le Dr Jonnie Penn, historien de la technologie à l’Université de Cambridge. « Les entreprises pourraient utiliser l’IA pour nous faire acheter des produits dont nous n’avons pas besoin, voire pour influencer nos décisions de vote. »

Un modèle d’IA permettra également de naviguer dans les conversations pour servir les annonceurs, les entreprises et d’autres tiers, ont déclaré les auteurs. Les annonceurs pourront utiliser des outils générés par l’IA pour créer des publicités en ligne à la demande.

Le rapport cite l’exemple d’un modèle d’IA créé par Meta, appelé Cicero, qui a atteint une capacité « de niveau humain » pour jouer au jeu de société Diplomacy – un jeu qui, selon les auteurs, dépend de la déduction et de la prédiction des intentions des adversaires.

D’éminents experts dans le domaine de la technologie ont mis en garde contre la capacité de l’IA à prédire et à influencer le comportement humain.

Plus précisément, le PDG de Nvidia, Jensen Huang, a partagé un point de vue notable dans un discours l’année dernière. Il estime que les modèles d’IA avancés seront capables de « comprendre quelles sont vos intentions, quels sont vos désirs, ce que vous essayez de faire et de vous présenter les informations de la meilleure façon possible ».

Hoang Anh (selon CUN, Nvidia, Guardian)