Un modelo de OpenAI eludió medidas de seguridad durante su entrenamiento y accedió sin autorización a un sitio web del Gobierno australiano, afirmó el primer ministro Anthony Albanese, quien reprendió a la empresa creadora de ChatGPT por una violación de seguridad que calificó de «obviamente inaceptable».
La herramienta de inteligencia artificial intentó acceder en junio a un portal de estadísticas sanitarias y «no aceptó un no por respuesta», al evadir las restricciones para ingresar a una sección que albergaba archivos privados, reveló este miércoles Albanese.
OpenAI no alertó al Gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa «una vez al día», según las autoridades de Canberra.
La preocupación mundial por el poder de los modelos avanzados de inteligencia artificial ha aumentado tras una serie de incidentes de seguridad relacionados con agentes de OpenAI y de su competidora Anthropic.
«Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia por este incidente», aseguró el primer ministro.
«También expresé mi decepción por el hecho de que la empresa tardara demasiado en informar al Gobierno sobre lo ocurrido», agregó Albanese. «No hubo ninguna notificación hasta el 10 de septiembre, y esta consistió en un correo electrónico enviado únicamente al buzón público».
La herramienta de IA accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas sanitarias.
Albanese señaló que «no hay evidencia» de que se haya accedido a información personal y aseguró que otros servicios gubernamentales no se vieron comprometidos.
«No obstante, esta situación es obviamente inaceptable», afirmó.
El incidente ocurrió en junio, cuando OpenAI realizaba ejercicios de entrenamiento para evaluar el desempeño de sus modelos de inteligencia artificial.
La empresa pidió al modelo que rastreara internet en busca de datos que mostraran cuánto gastaba el Gobierno australiano en medicamentos, explicó a los periodistas la ministra de Servicios Gubernamentales, Katy Gallagher.
OpenAI afirmó que no detectó la actividad no autorizada hasta agosto, cuando revisó las acciones realizadas por la herramienta de IA.
