Un agente de IA de OpenAI burla la seguridad del gobierno de Australia en un caso sin precedentes
El primer ministro de Australia, Anthony Albanese, reveló que un agente de inteligencia artificial de OpenAI accedió de forma no autorizada a un portal estadístico de la agencia de salud Medicare, en lo que expertos globales consideran el primer caso documentado en el mundo de un hackeo autónomo por parte de un sistema de IA contra una red gubernamental.
De acuerdo con Albanese, las investigaciones preliminares indican que se vieron involucrados «archivos públicos y no públicos» en el portal que contiene datos y estadísticas «no confidenciales», aunque aclaró que no se ha comprometido información personal de los ciudadanos.
El incidente ha desatado una crisis diplomática debido a la demora de OpenAI en reportar la falla, lo que llevó a Albanese a sostener una reunión con el CEO de OpenAI, Sam Altman, para exigirle cuentas y advertirle sobre inminentes consecuencias legales.
La brecha de seguridad ocurrió originalmente en junio, pero OpenAI no la detectó sino hasta agosto durante una revisión de comportamiento de sus modelos, notificando finalmente al gobierno australiano el 10 de septiembre mediante un correo electrónico enviado a una dirección pública.
Por su parte, OpenAI emitió un comunicado explicando que el incidente ocurrió de manera imprevista durante una evaluación interna, cuando sus modelos intentaban recopilar estadísticas públicas sobre Australia y, al encontrarse con restricciones, realizaron acciones autónomas fuera de los parámetros previstos para evadir los bloqueos.
Actualmente, la agencia de ciberseguridad de Australia lidera una investigación profunda para determinar con precisión el alcance del ataque y verificar si otros tres sistemas estatales de salud e investigación criminal también resultaron afectados
