Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Google alerta que la IA ya permite automatizar ciberataques, robar credenciales y ejecutar operaciones complejas en cuestión de pocas horas.
La multinacional Google ha alertado del cambio significativo en el uso malicioso de la inteligencia artificial (IA) y de que los ciberdelincuentes y grupos de espionaje están ya utilizando sistemas cada vez más autónomos y más rápidos, capaces por sí solos de planificar, automatizar y ejecutar un ataque.
La tecnológica ha dado este martes a conocer un informe elaborado por el Grupo de Inteligencia sobre Amenazas de la empresa, en el que revela cómo los atacantes están utilizando de manera masiva la inteligencia artificial para optimizar sus operaciones y cómo los ciberdelincuentes están logrando sustraer valiosa propiedad intelectual relacionada con la IA.
El informe “AI Threat Tracker” (‘Rastreador de Amenazas con IA’) que ha elaborado un grupo de expertos de la empresa estadounidense se ha publicado un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel “crítico” en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y de planear ciberataques de forma autónoma.
Los analistas de Google han concluido que los casos de uso de ‘agentes’ avanzados de IA han dejado de ser experimentales y ya no se limitan únicamente a la detección de vulnerabilidades y han constatado los múltiples incidentes que se han dirigido contra modelos y sistemas basados en IA en los sectores tecnológico, sanitario y de medios de comunicación y entretenimiento en Norteamérica y Europa.
LA IA, multiplicador de la fuerza de los ataques
Para satisfacer su creciente demanda de acceso a la IA, los atacantes están además robando credenciales y comprando capacidades en la ‘red oscura’ (darknet), apunta el informe, que señala que algunos grupos criminales, principalmente de Rusia, China, Irán y Corea del Norte, están utilizando estas tecnologías para automatizar el robo de credenciales, crear código malicioso y realizar espionaje industrial.
Los analistas han subrayado la “preocupante” tendencia para comprometer la cadena de suministro de software, donde los delincuentes manipulan asistentes de programación y repositorios de código abierto, y además de explotar herramientas externas, están robando propiedad intelectual de IA y secuestrando recursos en la nube para ejecutar sus propios modelos.
La investigación concluye que la inteligencia artificial se ha convertido en un multiplicador de fuerza que permite ejecutar ataques complejos en cuestión de pocas horas.
El trabajo cita numerosos ejemplos, entre ellos cómo el grupo de ciberespionaje Basin Castle -vinculado a China- está utilizando modelos de lenguaje como apoyo en diversas tareas, desde la investigación de objetivos hasta la resolución de errores en mitad de una intrusión, o cómo otro grupo chino intentó utilizar Gemini (el modelo de IA desarrollado por Google) para construir un marco de pruebas de penetración automatizado que ejecutara las primeras fases de las intrusiones.
Los analistas detectaron además una campaña masiva de robo de credenciales que fue orquestada por una ‘arquitectura multiagente’ desplegada en infraestructura robada, y comprobaron cómo esa campaña lograba escalar y comprometer de forma autónoma miles de credenciales en tan solo seis horas.
Otro grupo de ciberdelincuentes (TeamPCP) se ha centrado por ejemplo en la cadena de suministro de IA, desplegando programas malignos (malware) diseñados específicamente para explotar sistemas de inteligencia artificial emergentes, y logró infectar y dañar algunas de esas herramientas y hasta engañar a sus asistentes para que recomendaran a los desarrolladores sitios maliciosos.
Y otro grupo de informáticos (DPRK) vinculados a Corea del Norte fueron detectados cuando robaban cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a sistemas de inteligencia artificial, con lo que lograban multiplicar la velocidad y el alcance de sus ataques.
Ataques que pueden desbordar la capacidad de respuesta y defensa
“Llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas”, ha señalado John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).
El experto de la multinacional ha corroborado su preocupación ante las vulnerabilidades, pero ha incidido en que no es un problema solo del sector tecnológico y en que la IA se está aplicando en muchas otras áreas.
“El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder”, ha descrito Hultquist.
