Six sociétés d’IA signent à la Maison-Blanche un accord volontaire de contrôle et d’audit

Le président des États-Unis, Donald Trump, et les dirigeants de six entreprises technologiques ont signé le 29 septembre à la Maison-Blanche le « White House Accord on Super Intelligence », un engagement volontaire sur la sécurité des modèles d'intelligence artificielle les plus avancés. Les signataires sont Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) et Jensen Huang (Nvidia), à l'issue d'une réunion avec des membres du gouvernement et le président de la Chambre des représentants, Mike Johnson.

Le texte part du principe que chaque entreprise est responsable du développement sûr de sa technologie et propose quatre niveaux de contrôle. Le premier consiste en des contrôles internes pour surveiller les capacités des modèles et s'assurer qu'ils se comportent comme prévu pendant leur entraînement et leur déploiement, dans des domaines comme la cybersécurité, la biosécurité ou les menaces chimiques, et pour éviter qu'ils n'accèdent à des systèmes techniques de manière imprévue. Le deuxième, une équipe interne qui vérifie le bon fonctionnement de ces contrôles et corrige les défaillances. Le troisième, un auditeur ou évaluateur externe indépendant. Le quatrième, un comité indépendant du conseil d'administration chargé de superviser le processus.

Les entreprises conviennent également de se réunir régulièrement pour définir des normes et des bonnes pratiques. Le document ne fixe aucun délai et indique qu'avec le temps, il pourrait être pertinent de transformer ces mesures en lois.

Mike Johnson l'a décrit comme une déclaration de principes assortie d'engagements volontaires et a rappelé que le Congrès n'est pas parvenu à un consensus pour réglementer cette technologie, malgré les travaux de groupes bipartisans dans les deux chambres en 2024.

Le même jour, Donald Trump a signé un décret qui oblige les agences fédérales à utiliser, dans la mesure permise par la loi, « Super Intelligence » et « SI » au lieu d'« intelligence artificielle » et d'« IA » dans leurs documents officiels. Selon la Maison-Blanche, ce nouveau nom reflète mieux les capacités actuelles de cette technologie, qui selon elle ne se limite pas à imiter ou automatiser l'intelligence humaine. Pour l'instant, la définition juridique en vigueur est maintenue, et le conseiller présidentiel pour la science et la technologie dispose de 60 jours pour en proposer une nouvelle.

Points clés

• Google, Anthropic, Meta, OpenAI, xAI et Nvidia signent avec Donald Trump un accord volontaire sur la sécurité de l'IA.
• Le document propose quatre niveaux de contrôle pour les modèles les plus avancés.
• Il prévoit des contrôles internes face aux risques de cybersécurité, de biosécurité et aux menaces chimiques.
• Il inclut une équipe interne de vérification, un auditeur externe indépendant et un comité du conseil d'administration.
• Les entreprises se réuniront régulièrement pour définir des normes et des bonnes pratiques.
• L'accord ne fixe aucun délai et envisage de transformer ces mesures en lois à l'avenir.
• Mike Johnson le qualifie de déclaration de principes face à l'absence de consensus au Congrès.
• Un décret oblige l'Administration à remplacer le terme IA par « Super Intelligence ».
• La définition juridique en vigueur est maintenue, avec 60 jours pour en proposer une nouvelle.