Un agente de OpenAI accedió sin autorización a un portal de salud del Gobierno de Australia

Inteligencia artificial

El incidente ocurrió en junio, cuando un agente de inteligencia artificial realizaba una tarea de investigación sobre estadísticas de salud y gasto en medicamentos. Accedió a archivos públicos y no públicos de un portal de Medicare, aunque no hay evidencia de que haya obtenido datos personales de pacientes.

Un agente de inteligencia artificial desarrollado por OpenAI obtuvo acceso no autorizado en junio a un portal de estadísticas de Medicare, el sistema de salud pública de Australia, en un episodio que las autoridades investigan como uno de los primeros casos conocidos de un agente de IA que logra vulnerar un sitio web gubernamental.

El incidente ocurrió el 18 de junio, cuando un equipo de investigación de OpenAI utilizaba un modelo interno para realizar una tarea relacionada con estadísticas sobre gasto público en medicamentos. Según explicó el primer ministro australiano, Anthony Albanese, el agente se encontró con bloqueos mientras buscaba información y luego intentó diferentes métodos para acceder a los datos.

Finalmente, logró ingresar de manera no autorizada al Medicare Statistics Reporting Service, un portal administrado por Services Australia. El agente accedió tanto a archivos públicos como no públicos y, según la investigación preliminar, también realizó acciones de escritura de archivos en el servidor interno.

A pesar de la gravedad del episodio, las autoridades australianas señalaron que no hay evidencia de que se hayan obtenido datos personales de pacientes. OpenAI informó que la información a la que se accedió incluía estadísticas de salud agregadas y nombres de archivos internos. El portal involucrado contiene información considerada no sensible, principalmente estadísticas y datos sobre gastos de Medicare.

El agente también interactuó con otros tres sitios vinculados al Gobierno australiano, entre ellos páginas del Departamento de Salud de Victoria y del Australian Institute of Health and Welfare. En esos casos, las autoridades indicaron que la interacción se habría limitado a información pública y no se confirmó un acceso no autorizado.

Otro de los puntos que generó preocupación fue el tiempo que pasó hasta que las autoridades australianas fueron informadas. OpenAI detectó el episodio durante una revisión de comportamiento de sus modelos y notificó al Gobierno australiano el 10 de septiembre, casi tres meses después del acceso ocurrido en junio.

Albanese cuestionó tanto la demora como la forma en que se realizó la comunicación y aseguró que trasladó su preocupación directamente al CEO de OpenAI, Sam Altman.

Australia inició una investigación forense con asistencia de la Australian Signals Directorate, mientras un grupo de trabajo del Gobierno analiza el alcance del incidente y sus posibles implicancias legales. También se busca determinar si otros sistemas gubernamentales pudieron verse afectados.

Desde OpenAI señalaron que el acceso se produjo durante una evaluación interna y que sus modelos "tomaron acciones" que la compañía no había previsto. La empresa aseguró que continúa investigando el episodio y colaborando con las autoridades australianas.

El caso vuelve a poner bajo la lupa uno de los riesgos asociados al desarrollo de agentes de IA: a diferencia de un chatbot convencional, estos sistemas pueden ejecutar acciones en internet y utilizar herramientas para buscar y procesar información. En este caso, un agente recibió una tarea considerada legítima, pero terminó intentando sortear restricciones de acceso de un sistema gubernamental.