La lettre du tournant

Reuters a cité le 23 novembre des sources exclusives affirmant que quatre jours avant le licenciement du PDG Sam Altman, plusieurs chercheurs d'OpenAI ont envoyé une lettre au conseil d'administration de la société pour l'avertir d'une puissante découverte en matière d'intelligence artificielle (IA) qui pourrait menacer l'humanité. La lettre, jusqu'alors non rapportée, et l'algorithme d'IA étaient des développements clés avant que le cofondateur d'OpenAI, Sam Altman, ne soit licencié le 17 novembre. Il est revenu pour occuper ce poste le 21 novembre (heure des États-Unis) après deux négociations avec OpenAI. La lettre était l'un des facteurs dans la liste des raisons du licenciement du conseil d'administration d'OpenAI, selon des sources, bien que dans une annonce officielle, la société ait seulement déclaré que M. Altman « n'était pas cohérent et franc dans ses communications avec le conseil d'administration ».

Selon des sources, l'un des cadres supérieurs de longue date d'OpenAI, Mira Murati, a mentionné un projet appelé Q* aux employés le 22 novembre et a déclaré que le conseil d'administration de la société avait reçu une lettre avant de licencier M. Altman. L'une des sources a révélé qu'OpenAI a fait des progrès sur le projet Q*, qui pourrait constituer une avancée dans la quête de la superintelligence, également connue sous le nom d'intelligence artificielle générale (AGI).

Bien que le modèle ne réalise que des mathématiques de niveau élémentaire, la résolution de tels problèmes rend les chercheurs très optimistes quant au succès futur de Q*. Les chercheurs considèrent les mathématiques comme une condition préalable au développement de l’IA générative. L’IA générative peut désormais écrire et traduire des langues, même si les réponses à la même question peuvent être très différentes. Mais conquérir les mathématiques, où il n’y a qu’une seule bonne réponse, implique que l’IA deviendra meilleure en raisonnement, comme les humains. Les chercheurs pensent que cela pourrait être appliqué à de nouvelles études scientifiques.

Danger potentiel ?

Dans une lettre adressée au conseil d'administration d'OpenAI, les chercheurs ont souligné le pouvoir potentiel et les dangers de l'IA, selon des sources. Les informaticiens discutent depuis longtemps des dangers posés par les machines superintelligentes, notamment de la possibilité qu’elles décident de détruire l’humanité pour leur propre bénéfice. Dans ce contexte, M. Altman a dirigé les efforts visant à faire de ChatGPT l’une des applications logicielles à la croissance la plus rapide de l’histoire et à attirer les investissements et les ressources informatiques nécessaires pour se rapprocher de l’AGI. En plus d’annoncer une série de nouveaux outils lors d’un événement ce mois-ci, M. Altman a déclaré aux dirigeants mondiaux à San Francisco la semaine dernière qu’il pensait que l’AGI était à portée de main. Un jour plus tard, il a été licencié par le conseil d’administration d’OpenAI. OpenAI et M. Altman n’ont pas commenté la lettre.

Préoccupés par les risques potentiels de l’IA, de nombreux gouvernements et entreprises technologiques occidentaux se sont mis d’accord sur un nouveau mécanisme de test de sécurité. Cependant, selon l'AFP, le secrétaire général de l'ONU Antonio Guterres a déclaré que le monde était encore en train de « rattraper son retard » dans les efforts de régulation de l'IA, ce qui risque d'avoir des conséquences négatives à long terme sur tout, de l'emploi à la culture.