Sis empreses d’IA signen a la Casa Blanca un acord voluntari de control i auditoria

El president dels Estats Units, Donald Trump, i els màxims responsables de sis empreses tecnològiques van signar el 29 de setembre a la Casa Blanca el "White House Accord on Super Intelligence", un compromís voluntari sobre la seguretat dels models d'intel·ligència artificial més avançats. El subscriuen Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) i Jensen Huang (Nvidia), després d'una reunió amb membres del Govern i el president de la Cambra de Representants, Mike Johnson.

El text parteix de la idea que cada empresa és responsable de desenvolupar la seva tecnologia de manera segura i proposa quatre nivells de control. El primer són controls interns que vigilin les capacitats dels models i que actuïn segons el que està previst durant el seu entrenament i ús, en àmbits com la ciberseguretat, la bioseguretat o les amenaces químiques, i evitar que accedeixin a sistemes tècnics de manera no prevista. El segon, un equip intern que comprovi que aquests controls funcionen i corregeixi les fallades. El tercer, un auditor o avaluador extern independent. El quart, un comitè independent del consell d'administració que supervisi el procés.

Les companyies acorden també reunir-se periòdicament per fixar estàndards i bones pràctiques. El document no estableix terminis i apunta que, amb el temps, podria tenir sentit convertir aquestes mesures en lleis.

Johnson el va descriure com una declaració de principis amb compromisos voluntaris i va recordar que el Congrés no ha aconseguit un consens per regular aquesta tecnologia, malgrat la feina de grups bipartidistes a totes dues cambres durant el 2024.

Aquell mateix dia, Trump va signar una ordre executiva que obliga els organismes federals a fer servir, en la mesura que ho permeti la llei, "Super Intelligence" i "SI" en lloc d'"intel·ligència artificial" i "IA" en els seus documents oficials. Segons la Casa Blanca, el nou nom reflecteix millor les capacitats actuals d'aquesta tecnologia, que al seu parer no es limita a imitar o automatitzar la intel·ligència humana. De moment es manté la definició legal vigent, i l'assessor presidencial de ciència i tecnologia té 60 dies per proposar-ne una de nova.

Punts clau

• Google, Anthropic, Meta, OpenAI, xAI i Nvidia signen amb Donald Trump un acord voluntari sobre seguretat en IA.
• El document proposa quatre nivells de control per als models més avançats.
• Inclou controls interns davant riscos de ciberseguretat, bioseguretat i amenaces químiques.
• Preveu un equip intern de verificació, un auditor extern independent i un comitè del consell d'administració.
• Les empreses es reuniran periòdicament per fixar estàndards i bones pràctiques.
• L'acord no estableix terminis i contempla convertir aquestes mesures en lleis en el futur.
• Mike Johnson el defineix com una declaració de principis davant la manca de consens al Congrés.
• Una ordre executiva obliga l'Administració a substituir el terme IA per "Super Intelligence".
• Es manté la definició legal vigent i hi ha 60 dies per proposar-ne una de nova.