Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Según indican investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que han realizado distintas pruebas con estos agentes, es relativamente fácil conseguir que lleven a cabo acciones ‘dañinas’. Los agentes de IA con mayor autonomía, podrían ser fácilmente utilizados de forma malintencionada por piratas informáticos, advierten los expertos.
Claves de la nota
- Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales utilizando modelos avanzados.
- Si la solicitud se divide en varios comandos pequeños, los agentes de IA aumentan el doble sus probabilidades de éxito malicioso.
- Cambiar el idioma durante las distintas etapas de la acción aumenta de manera drástica el éxito en tareas perjudiciales.
La inteligencia artificial (IA) es ya una tecnología de amplio uso a través de asistentes o chatbots como los de ChatGPT o Gemini, pero el siguiente paso ‘evolutivo’, los agentes de IA con mayor autonomía, podrían ser fácilmente utilizados de forma malintencionada por piratas informáticos, advierten los expertos.
Según indican investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que han realizado distintas pruebas con estos agentes, es relativamente fácil conseguir que lleven a cabo acciones ‘dañinas’ con determinadas estrategias que no han sido tenidas en cuenta en pruebas de seguridad convencionales.
En este sentido, los investigadores del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL han concluido que si a estos agentes se les pide directamente algo ilícito o perjudicial, habrá una negativa, pero esto puede cambiar si la solicitud se divide en varios comandos.
“Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades”, destacó el director del laboratorio, Antoine Bosselut.
Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales, utilizando modelos de IA como GPT, Gemini o Claude, y descubrieron que en algunos casos los agentes tenían el doble de probabilidades de completar estas acciones maliciosas si los piratas informáticos avanzaban gradualmente.
En las pruebas, además, los investigadores han descubierto que si los piratas informáticos cambian el idioma en el que realizan sus peticiones a la IA durante las distintas etapas de su acción, la posibilidad de éxito en una tarea perjudicial “aumenta de manera drástica”.
Con estas investigaciones, los expertos buscan llamar la atención sobre la seguridad de una tecnología ya muy presente en la sociedad y llena de posibilidades, pero también de riesgos.
“Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después”, advirtió Bosselut.
