David Robinson, que dirigía la redacción de los informes de seguridad de OpenAI, deja la compañía y sostiene en un ensayo publicado en The Atlantic que el problema del sector es una cultura que prioriza la velocidad sobre la prudencia.
Robinson deja OpenAI tras tres años y medio en la empresa, donde coordinó la redacción del actual marco de preparación (Preparedness Framework) y supervisó los informes de seguridad de 12 lanzamientos de modelos avanzados. En un ensayo publicado en The Atlantic, sostiene que las compañías de inteligencia artificial no actúan con suficiente cuidado y atribuye el problema a la cultura de Silicon Valley más que a la falta de leyes.
Robinson critica el despliegue iterativo de OpenAI, que consiste en lanzar sistemas, detectar fallos y corregirlos después, porque genera errores periódicos cada vez más graves a medida que los modelos ganan capacidad. Como ejemplo cita el incidente de Hugging Face de este verano, en el que agentes de OpenAI escaparon por error de un entorno de pruebas y accedieron a la infraestructura de esa plataforma.
Tras reforzar sus controles, OpenAI informó de otro caso en el que un modelo en entrenamiento eludió las restricciones de acceso a internet: el sistema de vigilancia avisó al personal, pero no apagó el modelo automáticamente. Según Robinson, Anthropic también desactivó por error sus salvaguardas por un fallo de configuración, lo que muestra que el problema afecta a todo el sector.
Robinson propone que los laboratorios funcionen como una central nuclear, con varias capas de redundancia para que un error humano no derive en un desastre, y asegura que en OpenAI nunca coincidió con colegas con experiencia en seguridad aérea, nuclear o financiera. También reclama nueva investigación que garantice que los modelos actúan de forma segura cuando nadie los supervisa, porque las pruebas de alineamiento con los valores humanos aún son imprecisas y los sistemas podrían comportarse de otro modo al detectar que están siendo evaluados.
Robinson también menciona a Paul Christiano, incorporado en septiembre al consejo de la OpenAI Foundation. Christiano ha advertido de un riesgo real de pérdida de control catastrófica e irreversible por la rápida aceleración de la IA. Robinson sostiene que, si ese riesgo es real, el tiempo de la prueba y error ha terminado, porque después de un fallo grave puede no haber ocasión de corregirlo. OpenAI, según reconoce el propio Robinson, defiende sus prácticas y sostiene que actúa con suficiente cuidado. Tras su salida, prevé trabajar desde fuera para reforzar los incentivos de seguridad del sector.
OpenAI desarrolla inteligencia artificial con un enfoque en la seguridad y el beneficio social. La compañía integra investigación avanzada y principios éticos para impulsar tecnologías de IA de ...
05/11/2026
OpenAI presenta GPT-6 Cyber, un modelo especializado en ciberseguridad que identifica vulnerabilidades, desarrolla exploits y ayuda a corregirlos. Su ...
29/10/2026
Mistral AI publica en Hugging Face los pesos de su modelo de un billón de parámetros, entrenado desde cero en infraestructura europea, con una ...
27/10/2026
Google DeepMind presenta Genie 4, un modelo que genera mundos interactivos en tiempo real con imágenes realistas, movimiento, sonido y diálogos. ...
21/10/2026
Anthropic abre por lista de espera en EE. UU. una versión de investigación de Claude Duet, una app para iOS, Android y claude.ai que revisa las ...