Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Según Sam Altman, la IA tiene el potencial de impulsar una nueva era similar a un “Renacimiento” si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.
El director ejecutivo de OpenAI,Sam Altman, instó alConsejo de Seguridad de la ONUa construir una cooperación internacional urgente que oriente a las empresas tecnológicas con estándares complementarios nacionales y globales, advirtiendo de que el avance acelerado de la inteligencia artificial (IA) exige un“extremo cuidado”para no perder el control humano sobre los modelos.
En su intervención en una sesión de alto nivel convocada por la presidencia francesa del Consejo, Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir“demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.
A su juicio, la IA tiene el potencial de impulsar una nueva era similar a un“Renacimiento”si se concibe como una herramienta que capacite a las personas, peroalertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.
Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.
Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.
Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China: “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”.
Las personas en el centro de la escena
Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas “en el centro de la toma de decisiones” para garantizar que los modelos sigan bajo estricto control humano; orientar el progreso científico y económico “por y para las personas” potenciando su capacidad de acción y “empoderar a cada individuo”.
“Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano», subrayó.
Anthropic pide una estrategia global
Por su parte, el consejero delegado de la tecnológica Anthropic,Dario Amodei,advirtió en la misma reunión de que los riesgos asociados a los modelos más avanzados de IA constituyen“el problema de seguridad global más importante al que se enfrenta el mundo hoy“, y reclamó una respuesta internacional coordinada.
Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, subrayó ante los delegados.
El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.
Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.
