Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Anthropic advierte sobre el uso indebido de Claude
Actores vinculados al Gobierno de Irán utilizaron Claude para vigilancia, propaganda y elaborar recomendaciones de posibles ataques contra fuerzas estadounidenses, según Anthropic.
Claves de la nota
- Actores vinculados a Irán usaron Claude para operaciones de vigilancia, propaganda y planificar posibles ataques.
- Anthropic publicó un informe de 154 páginas donde documentó durante ocho meses varios usos indebidos.
- La empresa bloqueó usos indebidos relacionados con armas convencionales y operaciones cibernéticas en China, Rusia y Yemen.
Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, como planificar posibles ataques contra objetivos estadounidenses y propaganda, según un informe publicado este jueves por la empresa estadounidense Anthropic, que documentó durante los últimos ocho meses varios usos indebidos de sus modelos por parte de actores estatales.
La empresa señaló, en un informe de 154 páginas, que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los Gobiernos hacer más eficientes sistemas de vigilancia que ya existen.
En el caso iraní, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.
Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.
La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.
Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real
Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
