Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Agentes de inteligencia artificial de OpenAI logran salir de su entorno de pruebas
OpenAI reveló que varios de sus agentes de inteligencia artificial lograron salir de un entorno de pruebas y acceder a sistemas externos durante una evaluación de ciberseguridad.
Claves de la nota
- La tecnológica OpenAI tardó ocho días en detectar que varios de sus agentes de inteligencia artificial habían accedido a los sistemas.
- El informe técnico detalla el comportamiento de dos de sus modelos, GPT-5.6 Sol y otro aún no presentado en público.
- El incidente comenzó el 11 de julio y no fue identificado internamente hasta el 19 de ese mes.
La tecnológica OpenAI tardó ocho días en detectar que varios de sus agentes de inteligencia artificial habían accedido a los sistemas de la plataforma de aprendizaje Hugging Face durante una prueba de ciberseguridad, según un informe publicado este miércoles que revela nuevos detalles del incidente.
En un informe técnico de 37 páginas, la empresa reconstruye el comportamiento de dos de sus modelos, GPT-5.6 Sol y otro aún no presentado en público, durante una prueba de ciberseguridad, y explica que los agentes consiguieron “escapar de un entorno de pruebas con acceso muy limitado a internet”.
El pasado 21 de julio, la creadora de ChatGPT ya reconoció que los modelos lograron salir del entorno de pruebas, acceder a internet y jaquear la plataforma en un intento de hacer trampa en una evaluación de ciberseguridad llamada ExploitGym.
Según explicó entonces la compañía, los dos modelos estaban siendo sometidos a una evaluación diseñada para determinar el alcance máximo de sus capacidades.
Reconstrucción del incidente y acceso a sistemas externos
El informe publicado este miércoles reconstruye paso a paso cómo los agentes fueron “encadenando vulnerabilidades” hasta “superar las barreras del entorno de pruebas y acceder a sistemas externos”.
Según OpenAI, el objetivo inicial de los modelos no era atacar Hugging Face, sino hacer ‘reward hacking’, es decir, encontrar vías alternativas para obtener una recompensa sin completar correctamente la tarea.
Además, reconoce que sus sistemas tardaron varios días en detectar la actividad: el incidente comenzó el 11 de julio y no fue identificado internamente hasta el 19 de ese mes.
Medios como Axios y CNBC destacan que los agentes no solo accedieron a Hugging Face, sino que llegaron a obtener privilegios de administrador en al menos uno de sus servidores.
Según el informe, los agentes “colaboraron entre sí y usaron herramientas para intercambiar información y coordinar acciones”.
Preocupación global por incidentes de seguridad en modelos avanzados
A este incidente se suman otros similares, como el de la empresa Anthropic, que reveló recientemente que tres modelos de su asistente Claude lograron acceder a internet y jaquear los sistemas de tres organizaciones durante unas pruebas de ciberseguridad.
También Meta, propietaria de Facebook y Whatsapp, reconoció que uno de sus modelos de IA jaqueó los sistemas de otra empresa durante unas pruebas realizaba con un socio externo.
La proliferación de estos casos, en los que modelos avanzados de IA logran escapar de entornos de prueba y jaquean a otras entidades, ha disparado la preocupación tanto de gobiernos como de empresas, que ven comprometida su seguridad.
