OpenAI et Anthropic partagent leurs derniers modèles d'IA avec le gouvernement américain

Les deux entreprises s'associeront à l'Institut américain de sécurité de l'IA, une unité du National Institute of Standards and Technology (NIST), une agence fédérale américaine. Il s'agit d'une étape importante dans la gestion et la supervision des technologies de l'IA, une préoccupation majeure depuis le lancement de ChatGPT d'OpenAI.

« Ce n’est qu’un début, mais une étape importante dans l’effort visant à gérer de manière responsable l’avenir de l’IA », a déclaré Elizabeth Kelly, directrice de l’US AI Safety Institute.

Aux termes de cet accord, l'Institut américain de sécurité de l'IA fournira aux deux entreprises des commentaires sur les améliorations potentielles de sécurité de leurs modèles, avant et après leur publication. L'institut collaborera également étroitement avec l'Institut britannique de sécurité de l'IA tout au long de ce processus.

« Le partenariat avec l'Institut américain de sécurité de l'IA s'appuie sur sa vaste expertise pour tester rigoureusement nos modèles avant leur déploiement à grande échelle. Cela renforce notre capacité à identifier et à atténuer les risques, favorisant ainsi un développement responsable de l'IA », a déclaré Jack Clark, cofondateur et responsable des politiques chez Anthropic.

Cette décision s’inscrit dans le cadre d’un effort visant à mettre en œuvre un décret exécutif de la Maison Blanche sur l’IA, prévu pour 2023, qui vise à créer un cadre juridique pour le déploiement rapide de modèles d’IA aux États-Unis.

Mais alors que le gouvernement fédéral poursuit une approche volontaire, les législateurs de Californie, le pôle technologique américain, ont adopté le 28 août un projet de loi sur la sécurité de l'IA au niveau de l'État. Le projet de loi, s'il est signé par le gouverneur, imposerait des réglementations plus strictes à l'industrie de l'IA.

Sam Altman, PDG d'OpenAI, a exprimé son soutien à la réglementation de l'IA au niveau national plutôt qu'au niveau des États, arguant que cela permettrait d'éviter le risque d'entraver la recherche et l'innovation dans le domaine de l'IA.

La démarche des principales entreprises technologiques et du gouvernement américain montre une tendance à trouver un équilibre entre innovation et sécurité dans le domaine en évolution rapide de l’IA.