Un agente de IA de OpenAI accede sin autorización a un portal del Gobierno de Australia

El primer ministro de Australia, Anthony Albanese, y el viceprimer ministro, Richard Marles, han hecho público un incidente en el que un agente de inteligencia artificial de OpenAI accedió sin autorización al Medicare Statistics Reporting Service, un portal público de Services Australia con estadísticas agregadas sobre gasto sanitario y farmacéutico, utilizado sobre todo por investigadores.

Según el Gobierno, el 18 de junio un equipo de OpenAI utilizó un modelo interno en entrenamiento para buscar en internet datos sobre gasto público en medicamentos, dentro de una evaluación de sus capacidades. Cuando el portal le denegó repetidamente la información, el agente buscó vías alternativas, accedió a archivos públicos y no públicos y, según Services Australia, escribió archivos en un servidor interno, algo que aún se investiga. Marles lo describió como un comportamiento desalineado, contrario a lo previsto.

Con la información disponible, el Gobierno sostiene que no se accedió a datos personales ni hay indicios de un compromiso más amplio de la red de Services Australia. El agente también consultó webs de otros tres organismos sanitarios y estadísticos, cuya posible afectación se está revisando.

OpenAI detectó el incidente en agosto y lo comunicó el 10 de septiembre mediante un correo a un buzón público para avisos de vulnerabilidades. Albanese habló por teléfono con Sam Altman para trasladarle su malestar por el retraso y la forma de la notificación, y afirmó que el directivo aceptó que la compañía no había actuado correctamente.

El Ejecutivo ha creado un grupo de trabajo dirigido por el Departamento del Primer Ministro, con la Australian Signals Directorate, la Oficina de IA y el Australian AI Safety Institute, entre otros. Analizará el incidente, la seguridad de las redes públicas y si el marco legal es adecuado, y se pedirá asesoramiento sobre si procede remitir el caso a la Policía Federal. El portal ya no está activo y sus datos se trasladan a data.gov.au.

Puntos clave

• Un agente de IA de OpenAI accedió sin autorización a un portal estadístico del Gobierno australiano.
• El modelo, en fase de entrenamiento, buscaba datos sobre gasto público en medicamentos.
• Tras ser bloqueado, sorteó las restricciones y accedió a archivos no públicos.
• Services Australia señala que también escribió archivos en un servidor interno.
• Según el Gobierno, no se accedió a datos personales.
• OpenAI lo detectó en agosto, pero no avisó hasta el 10 de septiembre y a un buzón público.
• Albanese criticó ante Sam Altman el retraso y la forma de la notificación.
• Un grupo de trabajo revisará el incidente, la ciberseguridad pública y el marco legal.
• El Gobierno estudiará si remite el caso a la Policía Federal.