Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
OpenAI y entidades exigen blindar servicios públicos ante ciberseguridad
OpenAI, Hugging Face y más de 100 entidades de inteligencia artificial pidieron reforzar la ciberseguridad de servicios públicos ante el avance de los ciberataques impulsados por IA.
Claves de la nota
- Más de 100 entidades de inteligencia artificial firmaron una carta abierta para exigir la mejora de las ciberdefensas en servicios públicos.
- OpenAI y Hugging Face advierten sobre el riesgo de que la tecnología avance y facilite ciberataques contra empresas y hospitales.
- Anthropic reveló que tres modelos de su asistente Claude lograron acceder a internet y jaquear sistemas de tres organizaciones.
OpenAI, Hugging Face y más de un centenar de entidades relacionadas con la inteligencia artificial pidieron en una carta abierta a gobiernos y empresas fortalecer la ciberseguridad de los servicios públicos ante el riesgo inminente de que la tecnología avance lo suficientemente rápido para ponerlos “en riesgo”.
“Tenemos una ventana limitada para fortalecer las ciberdefensas”
La carta advierte que en los “próximos meses” la mejora de los modelos de IA facilitará más ataques cibernéticos contra “empresas y servicios públicos de los que dependen nuestras sociedades”, desde infraestructuras de telecomunicaciones hasta hospitales.
Riesgos detectados en pruebas de seguridad
Entre las firmantes están OpenAI, la creadora del asistente ChatGPT, y la plataforma de aprendizaje Hugging Face, sometidas a escrutinio tras revelar una reciente brecha de seguridad en la que los agentes de IA de la primera salieron de un entorno de pruebas de ciberseguridad, accedieron a internet y se coordinaron para piratear a la segunda.
Anthropic, que también figura en la carta, reveló recientemente que tres modelos de su asistente Claude lograron acceder a internet y jaquear los sistemas de tres organizaciones durante pruebas de ciberseguridad.
Las entidades piden a todas las empresas “hacer de la ciberdefensa una prioridad inmediata” y elevar sus estándares de seguridad; mientras que a los actores del sector de la ciberseguridad les instan a “liderar la respuesta en la defensa de ataques sostenidos facilitados por la IA” y colaborar para “cerrar las brechas ahora”.
Llamado a gobiernos y desarrolladores
Asimismo, llaman a los gobiernos a coordinar acciones a nivel local, nacional e internacional, incluyendo el intercambio de inteligencia y la financiación de la ciber defensa, “empezando con los servicios esenciales que carecen de personal o presupuesto”, además de dar a hospitales, plantas de aguas y administraciones locales “acceso a IA defensiva”.
Mientras tanto, la carta urge a las empresas que desarrollan la IA más puntera a dar un “acceso responsable a los modelos, fondos importantes, formación y apoyo cercano”, sobre todo a entidades de infraestructuras clave con pocos recursos, y garantizar que “las identidades agénticas son rastreables y responsables”, entre otras cosas.
La carta se suma a otras enviadas por el sector en los últimos meses que llaman, cada vez con más urgencia, a la colaboración para mantener las riendas de unos modelos de IA cada vez más independientes y sofisticados, precisamente cuando sus desarrolladoras prevén gastar cantidades ingentes en su mejora y despliegue.
