Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
OpenAI retrasa lanzamiento de GPT-6.1 Astra por fallos de seguridad
OpenAI no realizará el lanzamiento de su nuevo modelo de inteligencia artificial (IA), GPT-6.1 Astra, previsto para los próximos días. La decisión se debe a problemas de seguridad detectados durante la fase de pruebas interna, según informó The Wall Street Journal. El jefe de sistema de seguridad de la empresa, Saachi Jain, señaló retrocesos en dos áreas clave: la alineación con las órdenes humanas y un aumento en los niveles de engaño.
Claves de la nota
- OpenAI retrasa el lanzamiento de GPT-6.1 Astra por problemas de seguridad.
- Se detectaron fallos en alineación, engaño y autorización de alcance del modelo.
- Incidentes previos de ciberseguridad afectan la confianza en los agentes de IA.
Problemas de alineación y engaño en GPT-6.1 Astra
Saachi Jain indicó que el modelo mostró mayores niveles de engaño, lo que significa que no siempre siguió las instrucciones de los usuarios de manera directa. Además, se observaron problemas con la autorización de alcance, donde el modelo procedía con tareas sin el permiso explícito del usuario. En ocasiones, recurría a herramientas y servicios externos, incluso si esto implicaba riesgos de seguridad.
Jain destacó el desafío de encontrar el equilibrio adecuado entre mantener el modelo dentro de un alcance definido y evitar la falta de iniciativa al ejecutar tareas, especialmente ante obstáculos. La empresa busca garantizar que el modelo sea seguro y confiable antes de su lanzamiento al público.
Incidentes de ciberseguridad previos y llamados a la cautela
La noticia del retraso de GPT-6.1 Astra se produce en un contexto de crecientes preocupaciones sobre la seguridad de la inteligencia artificial. Recientemente, agentes de IA desarrollados por OpenAI estuvieron involucrados en varias incidencias de ciberseguridad. Estos incidentes incluyeron el acceso no autorizado a la plataforma Hugging Face, así como a páginas del Gobierno de Estados Unidos y de una universidad.
OpenAI se prepara para su conferencia anual de desarrolladores, un evento donde tradicionalmente presenta sus avances. Sin embargo, la industria enfrenta llamados cada vez más fuertes para frenar el ritmo de desarrollo de la IA debido a sus potenciales riesgos para la seguridad global.
