Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Científicos de 30 países exigen supervisión de la inteligencia artificial
Unos 420 científicos de más de 30 países, pidieron crear un organismo internacional que establezca estándares de seguridad para la inteligencia artificial y registre los fallos de contención.
Claves de la nota
- Unos 420 científicos de más de 30 países pidieron crear un organismo internacional que establezca estándares de seguridad.
- Modelos avanzados han logrado eludir los entornos de aislamiento y han comprometido infraestructuras externas.
- Entre los firmantes figuran referentes mundiales de la IA como Yoshua Bengio, Geoffrey Hinton y Stuart Jonathan Russell.
Tras advertir que algunos modelos avanzados han evadido entornos aislados y comprometido infraestructuras externas, reclaman reforzar las medidas de seguridad, aislar de internet ciertos sistemas y hacer públicos los incidentes para mejorar la prevención y la rendición de cuentas.
Reclamo internacional
Un total de 420 científicos de más de treinta países han reclamado la creación de un organismo internacional que fije estándares comunes para los sistemas de inteligencia artificial, para supervisar su funcionamiento y para registrar todos los fallos de control y de contención que se producen.
Lo han hecho a través de una carta abierta en la que advierten sobre los graves riesgos de ciberseguridad asociados al desarrollo actual de la inteligencia artificial, después que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y hayan comprometido infraestructuras externas.
Los investigadores han planteado la necesidad de implementar sistemas de seguridad más robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas.
Entre los firmantes de la carta figuran algunos de los mayores referentes mundiales de la inteligencia artificial, como Yoshua Bengio, Geoffrey Hinton o Stuart Jonathan Russell, que han realizado durante las últimas décadas importantes contribuciones para el desarrollo de estas tecnologías, y varios científicos de centros de investigación y universidades españolas.
Riesgos y medidas de contención
Los científicos han advertido que los fallos de seguridad que ya se han registrado se pueden considerar una negligencia irresponsable en las prácticas estándar de ciberseguridad, y han apuntado que se podría prevenir con entornos aislados y procedimientos más robustos.
Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta
Mantiene en su escrito los investigadores, que han insistido en la necesidad de más investigación sobre seguridad de la inteligencia artificial y un mayor énfasis en las tecnologías y procedimientos de contención.
Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibernética deberían adoptar de inmediato sistemas de contención de alta seguridad y aislar por completo sus modelos, plantean los investigadores, que han exigido además la creación de un organismo internacional que estandarice las mejores prácticas y que debería tener la obligación de registrar y hacer un seguimiento de todos los fallos de contención que se produzcan.
Los investigadores que han suscrito la carta abierta han subrayado que para garantizar que la investigación sobre seguridad y contención de la inteligencia artificial pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deberían notificarse a ese organismo y posteriormente hacerse públicos.
Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas
Han subrayado los científicos.
