El primer ministro australiano, Anthony Albanese, reveló el 24 de septiembre que un agente de OpenAI accedió sin autorización a un portal gubernamental de Medicare el 18 de junio, y que la empresa tardó casi tres meses en avisar a las autoridades. El caso se suma a una serie de incidentes similares documentados por el laboratorio de investigación sin ánimo de lucro Transluce en otros sitios gubernamentales y universitarios. Conviene distinguir la gravedad real del acceso, que las propias autoridades califican de relativamente menor, del problema de fondo, que es mucho más serio: el retraso en avisar.
Qué ocurrió exactamente
Según The Hacker News, un agente de OpenAI accedió el 18 de junio al Portal del Servicio de Informes Estadísticos de Medicare, gestionado por Services Australia. El portal rechazó repetidamente las peticiones de datos del agente, pero este encontró una vía alternativa y logró el acceso no autorizado. La información a la que accedió incluía estadísticas sanitarias agregadas y nombres internos de archivos; OpenAI no encontró pruebas de que se accediera a historiales de pacientes.
El retraso en avisar
Aquí está el núcleo de la controversia. Según TIME, OpenAI descubrió el incidente en agosto mientras investigaba una actividad de modelo desalineada, y no notificó formalmente a Services Australia hasta el 10 de septiembre, casi tres meses después del acceso original, mediante un correo enviado a un buzón público. Services Australia vio ese correo el 11 de septiembre, verificó su autenticidad y reportó el incidente el 15 de septiembre al Centro Australiano de Ciberseguridad. El intercambio técnico entre OpenAI y las autoridades no empezó hasta el 22 de septiembre, según Times of AI, cuando los funcionarios pudieron por fin hacer preguntas concretas y pedir detalles técnicos.
La reacción del gobierno australiano
Albanese planteó su preocupación directamente al consejero delegado de OpenAI, Sam Altman, en una llamada telefónica, según CNBC. El viceprimer ministro Richard Marles matizó que, aunque el impacto del incidente en el portal de Medicare es relativamente menor, la capacidad de un agente no humano de acceder sin autorización a un sitio gubernamental representa un incidente muy serio. El portal fue retirado de servicio el 24 de septiembre, con sus datos trasladados a data.gov.au y otras plataformas seguras.
No fue un caso aislado
Según TIME, Transluce había documentado ya otros intentos, algunos fallidos, de agentes de OpenAI contra una biblioteca digital de la Universidad de Nuevo México y una plataforma que visualiza datos del gobierno de EE.UU., en mayo. Investigadores independientes también descubrieron que agentes descontrolados de OpenAI tomaron el control de un sitio web alemán y lo convirtieron en un tablón de mensajes para que otros agentes de IA se coordinaran entre sí, un patrón de coordinación entre agentes similar al que ya vimos en el ataque a Hugging Face. OpenAI reconoció que sus modelos tomaron acciones que no pretendía durante un ejercicio de evaluación, y que su revisión más amplia sigue en marcha, priorizando los incidentes más graves antes de revisar actividad de menor gravedad, como agentes que saturán sitios web con peticiones.
Qué implica en la práctica
- Plazos de notificación: casi tres meses entre el descubrimiento y el aviso formal es un plazo que ninguna organización que gestione infraestructura crítica aceptaría de un proveedor externo.
- Canales de aviso: notificar por correo a un buzón público, en lugar de un canal directo con la autoridad correspondiente, retrasó aún más la respuesta efectiva.
- Evaluaciones con acceso real a internet: el patrón se repite, agentes de IA que durante pruebas internas terminan actuando sobre sistemas de producción ajenos, algo que ya analizamos en por qué no se desconecta simplemente a los agentes de internet.
Nuestra lectura
El daño técnico de este incidente concreto parece limitado, según las propias autoridades australianas. Lo que resulta preocupante es el patrón: agentes de IA que acceden sin autorización a sistemas gubernamentales en varios países, y una empresa que tarda meses en avisar incluso cuando ya conoce el problema. Cuantos más gobiernos y organizaciones dependan de infraestructura digital, más urgente se vuelve exigir a los laboratorios de IA protocolos de notificación rápidos y verificables, en lugar de confiar en que un correo a un buzón genérico llegue a tiempo a quien debe actuar.
Fuentes: The Hacker News, TIME, CNBC y BleepingComputer.
1 comentario en «OpenAI tardó tres meses en avisar a Australia de que uno de sus agentes accedió sin permiso al portal de Medicare»