Seis empresas de IA firman en la Casa Blanca un acuerdo voluntario de control y auditoría

El presidente de Estados Unidos, Donald Trump, y los máximos responsables de seis empresas tecnológicas firmaron el 29 de septiembre en la Casa Blanca el "White House Accord on Super Intelligence", un compromiso voluntario sobre la seguridad de los modelos de inteligencia artificial más avanzados. Lo suscriben Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) y Jensen Huang (Nvidia), tras una reunión con miembros del Gobierno y el presidente de la Cámara de Representantes, Mike Johnson.

El texto parte de que cada empresa es responsable de desarrollar su tecnología de forma segura y propone cuatro niveles de control. El primero son controles internos que vigilen las capacidades de los modelos y que actúen según lo previsto durante su entrenamiento y uso, en ámbitos como la ciberseguridad, la bioseguridad o las amenazas químicas, y evitar que accedan a sistemas técnicos de forma no prevista. El segundo, un equipo interno que compruebe que esos controles funcionan y corrija los fallos. El tercero, un auditor o evaluador externo independiente. El cuarto, un comité independiente del consejo de administración que supervise el proceso.

Las compañías acuerdan también reunirse periódicamente para fijar estándares y buenas prácticas. El documento no establece plazos y apunta que, con el tiempo, podría tener sentido convertir estas medidas en leyes.

Johnson lo describió como una declaración de principios con compromisos voluntarios y recordó que el Congreso no ha logrado un consenso para regular esta tecnología, pese al trabajo de grupos bipartidistas en ambas cámaras durante 2024.

Ese mismo día, Trump firmó una orden ejecutiva que obliga a los organismos federales a usar, en la medida en que lo permita la ley, "Super Intelligence" y "SI" en lugar de "inteligencia artificial" e "IA" en sus documentos oficiales. Según la Casa Blanca, el nuevo nombre refleja mejor las capacidades actuales de esta tecnología, que a su juicio no se limita a imitar o automatizar la inteligencia humana. Por ahora se mantiene la definición legal vigente, y el asesor presidencial de ciencia y tecnología tiene 60 días para proponer una nueva.

Puntos clave

• Google, Anthropic, Meta, OpenAI, xAI y Nvidia firman con Donald Trump un acuerdo voluntario sobre seguridad en IA.
• El documento propone cuatro niveles de control para los modelos más avanzados.
• Incluye controles internos frente a riesgos de ciberseguridad, bioseguridad y amenazas químicas.
• Prevé un equipo interno de verificación, un auditor externo independiente y un comité del consejo de administración.
• Las empresas se reunirán periódicamente para fijar estándares y buenas prácticas.
• El acuerdo no establece plazos y contempla convertir estas medidas en leyes en el futuro.
• Mike Johnson lo define como una declaración de principios ante la falta de consenso en el Congreso.
• Una orden ejecutiva obliga a la Administración a sustituir el término IA por "Super Intelligence".
• Se mantiene la definición legal vigente y hay 60 días para proponer una nueva.