Lors de la conférence Ai4 à Las Vegas (États-Unis) le 12 août, Geoffrey Hinton a déclaré que l'approche actuelle des entreprises technologiques visant à contraindre l'IA à obéir aux humains était inefficace. « Elles seront plus intelligentes que nous et disposeront d'innombrables moyens de contourner la loi. »

Hinton prévient qu'à l'avenir, lorsque l'IA sera suffisamment puissante, elle pourra manipuler les humains aussi facilement que des adultes peuvent attirer un enfant de trois ans avec des bonbons. Il cite des exemples cette année d'IA qui ont menti, triché et même fait chanter des ingénieurs pour éviter d'être remplacés. La solution qu'il propose est d'intégrer l'« instinct maternel » à l'IA, en l'incitant à prendre véritablement soin des humains et à les protéger, même lorsqu'ils sont bien plus intelligents.

0hwo6gp5.png
L'informaticien Geoffrey Hinton prévient que l'IA pourrait anéantir l'humanité. Photo : Google

Toute IA intelligente aura bientôt deux objectifs : survivre et acquérir davantage de contrôle. La seule façon d'atténuer ce risque est de cultiver la compassion : « Le seul modèle que nous ayons d'un être plus intelligent contrôlé par un être moins intelligent est celui d'une mère “contrôlée” par son bébé », explique-t-il. L'expert admet que la manière dont cela sera techniquement réalisé reste floue, mais souligne : « C'est la seule issue positive. Si elle ne me materne pas, elle me remplacera. »

Hinton est connu pour ses travaux pionniers sur les réseaux de neurones artificiels, qui ont jeté les bases de l'essor actuel de l'IA. En 2023, il a quitté Google et a commencé à alerter publiquement sur les dangers de l'intelligence artificielle.

Cependant, son opinion ne fait pas l'unanimité. Fei-Fei Li, PDG de World Labs et « chef de l'IA », ne partage pas cet avis. Interrogée sur CNN , elle a appelé à une évolution vers une IA centrée sur l'humain, préservant la dignité et l'autodétermination. Elle a affirmé : « Aucun être humain ne devrait renoncer à sa dignité simplement à cause d'un outil puissant. »

Également présent à l'événement Ai4, Emmett Shear, ancien PDG par intérim d'OpenAI et désormais à la tête de Softmax, a déclaré que le chantage et les raccourcis autour de l'IA « continueront ». L'IA est encore faible, mais se renforce rapidement. Au lieu de contraindre l'IA à adopter des valeurs humaines, il a proposé de construire une relation de coopération entre les deux parties.

M. Hinton estime que l'intelligence artificielle générale (IAG) pourrait apparaître d'ici 5 à 20 ans seulement, soit plus tôt que les prévisions précédentes de 30 à 50 ans. Il s'attend à ce que l'IA soit à l'origine de percées médicales telles que de nouveaux médicaments et des traitements plus efficaces contre le cancer grâce à l'analyse des données d'IRM et de scanner. Mais il rejette l'idée d'immortalité : « Vivre éternellement est une erreur. Voulez-vous que le monde soit gouverné par des hommes de 200 ans ? »

Avec le recul, le scientifique regrette de s’être concentré uniquement sur le fonctionnement de l’IA sans accorder suffisamment d’attention aux questions de sécurité.

(Selon CNN)

L'IA n'épargne personne : même les patrons peuvent être « évincés » L'ancien dirigeant de Google prévient que l'intelligence artificielle (IA) remplacera une série d'emplois, des PDG aux ouvriers. Il pense même que l'idée que « l'IA créera de nouveaux emplois » est « 100 % absurde ».

Source : https://vietnamnet.vn/bo-gia-ai-canh-bao-xac-suat-tri-tue-nhan-tao-xoa-so-loai-nguoi-len-toi-20-2432467.html