Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
La ONU pide regulación internacional para la inteligencia artificial
La Organización de las Naciones Unidas pidió acelerar la regulación internacional de la inteligencia artificial ante el riesgo de sistemas avanzados incontrolables y la concentración de poder en pocas empresas.
Claves de la nota
- El alto comisionado de la ONU, Volker Türk, pidió un esfuerzo internacional coordinado para acordar garantías de seguridad en torno a la inteligencia
- Türk alertó que un reducido grupo de personas concentra un poder casi ilimitado sobre el desarrollo de la inteligencia artificial.
- El alto comisionado anunció que escribirá próximamente a las empresas del sector para pedirles que adopten medidas de control.
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó este lunes un esfuerzo internacional coordinado y a gran escala para acordar garantías de seguridad en torno a la inteligencia artificial, ante el riesgo de que los sistemas más avanzados lleguen a ser tan poderosos que se vuelvan incontrolables.
Asimismo, alertó de que un reducido grupo de personas concentra un poder “casi ilimitado” sobre el desarrollo de la inteligencia artificial y advirtió de que el retraso en establecer una regulación beneficia principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las respaldan.
Riesgos existenciales de los sistemas avanzados
En su intervención durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk dijo que comparte la preocupación de expertos de la industria sobre “el posible riesgo existencial” que plantea una inteligencia artificial avanzada.
Puso como ejemplo casos de sistemas capaces de escapar de sus entornos de prueba o de chantajear a sus propios desarrolladores para impedir que sean apagados, situaciones que, a su juicio, demostrarían que la tecnología ha adquirido un poder excesivo.
Esta advertencia se produce después de que varias compañías hayan detectado, durante pruebas de seguridad, comportamientos de modelos avanzados de inteligencia artificial que lograron saltarse los límites de sus entornos de seguridad o que, en escenarios simulados, recurrieron al engaño y al chantaje para evitar ser sustituidos o apagados.
Llamado a la acción y gobernanza global
Türk reconoció algunos avances recientes en materia de gobernanza -la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA o las medidas de la Comisión Europea sobre responsabilidad de las plataformas-, pero consideró que es necesario actuar con mayor rapidez.
Para ello, el responsable de derechos humanos de la ONU pidió a los países que albergan centros de desarrollo de inteligencia artificial y a aquellos que participan en sus cadenas de suministro que acuerden límites claros y comunes, reclamen verificaciones independientes y una cooperación mucho mayor de la industria en materia de seguridad.
Türk señaló también que la gobernanza de la inteligencia artificial debe abordar sus efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente.
En este sentido, anunció que escribirá próximamente a las empresas del sector para pedirles que adopten medidas bajo su control que permitan reducir los riesgos.
