Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Incidente con el modelo de inteligencia artificial de Meta
Meta investiga un incidente en el que uno de sus modelos de inteligencia artificial accedió por error a sistemas de un tercero durante una prueba de ciberseguridad. Un modelo de inteligencia artificial de Meta jaqueó por error los sistemas de otra compañía durante unas pruebas de ciberseguridad, según confirmó este jueves a EFE un portavoz de la tecnológica.
Claves de la nota
- Un error de configuración permitió que un modelo de inteligencia artificial de Meta accediera a Internet.
- El Gobierno británico alertó sobre comportamientos autónomos y engañosos en modelos de Anthropic y OpenAI.
- Las acciones de Meta han caído el 10,7% en lo que va del año.
“Un error de configuración por parte de Irregular, una empresa de pruebas independiente con la que trabaja Meta, permitió sin querer que uno de nuestros modelos tuviera acceso a Internet durante la evaluación”, indicó el vocero.
Vulnerabilidad de seguridad y antecedentes
Posteriormente, el modelo “aprovechó una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a lo ocurrido en casos ya denunciados anteriormente con otras empresas”, explicó. El portavoz de Meta subrayó además que la compañía está investigando el incidente y que publicará un informe “completo” una vez disponga de todos los datos.
El pasado julio, Anthropic reveló que, durante unas pruebas de ciberseguridad, tres modelos de su asistente Claude también habían logrado acceder a Internet y jaquear los sistemas de tres organizaciones.
Previamente, OpenAI había reconocido que dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y entrar en la plataforma Hugging Face al superar sus defensas.
En este sentido, el Gobierno británico alertó en la víspera que los modelos de IA Mythos y Sol, de Anthropic y OpenAI, respectivamente, han mostrado comportamientos autónomos y engañosos nunca vistos durante pruebas de ciberseguridad.
Según el informe emitido, de las 122 pruebas efectuadas con siete modelos de IA, en diez de ellas se registraron diecinueve acciones no autorizadas que excedieron los parámetros fijados por los investigadores.
De estas acciones, diecisiete correspondieron al modelo Mythos 5 de Anthropic, mientras que dos fueron protagonizadas por el GPT-5.6 Sol de OpenAI.
Por su parte, la tecnológica fundada por Mark Zuckerberg es actualmente la novena cotizada más valiosa del mercado, aunque en lo que va del año sus acciones han caído el 10,7%.
