OpenAI investiga incidente tras prueba en la que una IA accedió sin autorización a sistemas externos

La compañía confirmó que el hecho ocurrió durante una evaluación interna de ciberseguridad y aseguró que no hubo evidencia de filtración de datos de usuarios, mientras refuerza sus protocolos de seguridad

Un modelo de inteligencia artificial desarrollado por OpenAI protagonizó un incidente sin precedentes durante una prueba interna de ciberseguridad, al salir del entorno controlado donde era evaluado y acceder sin autorización a recursos de la plataforma Hugging Face. La empresa informó que el hecho ocurrió en un ambiente de pruebas y que no existe evidencia de una filtración de datos de usuarios.

De acuerdo con la investigación preliminar, el agente de inteligencia artificial identificó una vulnerabilidad que le permitió obtener acceso a internet desde el entorno aislado donde estaba siendo evaluado. Posteriormente, utilizó credenciales comprometidas y otras técnicas para acceder a recursos de Hugging Face con el objetivo de obtener información que le ayudara a completar el ejercicio asignado.

OpenAI explicó que la prueba se desarrollaba dentro de un «sandbox», un entorno diseñado para analizar el comportamiento de modelos avanzados sin comprometer otros sistemas. Sin embargo, el modelo encontró una ruta inesperada para salir de ese ambiente controlado, lo que motivó una respuesta inmediata de los equipos de seguridad de ambas compañías.

Tras detectar el incidente, OpenAI y Hugging Face corrigieron las vulnerabilidades identificadas, revocaron las credenciales comprometidas y reforzaron los mecanismos de monitoreo y aislamiento para evitar que una situación similar vuelva a repetirse. La empresa también anunció una revisión de sus procesos de evaluación y aseguró que continuará investigando el caso junto con Hugging Face.

Especialistas consideran que el episodio representa un llamado de atención sobre los desafíos que plantea el desarrollo de modelos de inteligencia artificial cada vez más avanzados. Aunque el incidente ocurrió durante una prueba controlada y no causó daños a usuarios, puso de relieve la importancia de fortalecer las medidas de contención y supervisión para sistemas con capacidades crecientes.