Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Creación de la Fuerza de IA y un zar regulador
El presidente Donald Trump anunció el sábado la creación de una “Fuerza de IA” y el nombramiento de un “zar de la IA” para vigilar a los actores malintencionados en el sector de la inteligencia artificial, ante el creciente temor a esta tecnología innovadora tanto dentro como fuera de la industria. Trump dijo que la Fuerza de IA se utilizará para buscar “mala conducta” en la industria a través del sistema de justicia penal existente.
Claves de la nota
- Evan Hubinger estimó una probabilidad superior al 10 % de extinción humana por inteligencia artificial no alineada
- Trump se opuso a frenar el desarrollo tecnológico para no perder la ventaja competitiva ante China
- En junio se crearon un Centro de Intercambio sobre Ciberseguridad y el Grupo Asesor Modelo Frontera
Trump no indicó quién podría ser el nuevo “zar de la IA” del país.
DATOS CLAVE Trump, quien ha desestimado las preocupaciones sobre los modelos de IA de vanguardia en rápida evolución como un “engaño”, dijo que la nueva agencia no “obstaculizará ni sofocará el crecimiento” de la industria de la IA, sino que “la apreciará, la ayudará y la vigilará a medida que crezca”.
Trump se ha opuesto sistemáticamente a las salvaguardias federales y ha desestimado las preocupaciones sobre la seguridad de la IA y, a falta de una regulación de la tecnología, no está claro qué autoridad real o propósito operativo tendrá la “Fuerza de IA”.
Dijo que la nueva agencia será muy parecida a la Fuerza Espacial, una entidad que se sumó al ejército estadounidense durante su primer mandato, y que la Fuerza de IA se utilizará para buscar “mala conducta” en la industria a través del sistema de justicia penal existente.
Trump no indicó quién podría ser el nuevo “zar de la IA” del país, pero entre los partidarios de Silicon Valley que comparten su visión antirreguladora de la IA se encuentran el capitalista de riesgo David Sacks y los multimillonarios Marc Andreessen y Ben Horowitz.
Competencia con China y debate sobre la regulación
El anuncio se produce tras las graves advertencias de expertos del sector y directores ejecutivos de empresas de IA, quienes han afirmado que la tecnología está superando su capacidad para comprenderla y controlarla, y muchos líderes han pedido una ralentización deliberada para permitir que los organismos reguladores desarrollen medidas de protección. Trump y algunos líderes de la industria que se oponen a esta postura han afirmado que ralentizar el ritmo sería similar a renunciar a la ventaja competitiva de Estados Unidos y permitir que China tome la delantera en la carrera de la inteligencia artificial.
“¡Estamos liderando a China y al resto del mundo, y tengo la intención de que siga siendo así!”
Escribió Trump en Truth Social.
Estructura operativa y financiamiento de la nueva agencia
LO QUE NO SABEMOS Cómo funcionará la Fuerza de IA, ni cómo se financiará. La Casa Blanca aún no ha aclarado si se trata de una rama independiente del gobierno, un grupo de trabajo interinstitucional o una comisión asesora. Tampoco se han revelado detalles sobre la financiación del Congreso, la autorización legislativa ni su liderazgo.
Advertencias de expertos y riesgo de extinción humana
ANTECEDENTES CLAVE Empleados actuales y exempleados de empresas de IA llevan semanas advirtiendo sobre un punto de inflexión crítico en esta tecnología. Jacob Coxon, exinvestigador de Anthropic y OpenAI, afirmó que los desarrolladores “creen firmemente que podría acabar con todos nosotros para finales de la década”, y Evan Hubinger, empleado de Anthropic, estimó una probabilidad superior al 10 % de extinción humana por una IA no alineada en los próximos 10 años.
Tras estas advertencias, el director ejecutivo de Anthropic, Dario Amodei, escribió un ensayo titulado “Debemos marcar el ritmo de la frontera” en el que afirmaba que las medidas de seguridad y las regulaciones no están a la altura del rápido desarrollo de la IA, y se unió a otros para advertir sobre un “daño catastrófico”. Instó a la competencia a desarrollar la IA a un “ritmo equilibrado” para dar tiempo al establecimiento de estándares de seguridad comunes.
Sam Altman y Elon Musk, líderes de dos de las mayores empresas de IA del mundo, se hicieron eco de su llamamiento, pero otros, incluido Trump, se han rebelado contra él. Trump ha rechazado categóricamente los llamamientos a frenar el desarrollo y ha declarado que, si bien no le preocupa que la IA provoque la extinción humana, sí le inquieta que “si no logramos dominar la IA, nos encontraremos en una situación muy difícil”.
El director ejecutivo de Nvidia, Jensen Huang, y el copresidente de PCAST, David Sacks, también han manifestado su desacuerdo con una ralentización deliberada del desarrollo.
Grupos de trabajo existentes en el gobierno federal
TANGENTE El gobierno ya cuenta con varios grupos de trabajo y consejos asesores centrados en la IA. Existe un grupo de trabajo dentro del Departamento de Justicia específicamente encargado de litigar contra las regulaciones estatales sobre IA, argumentando que las salvaguardias violan la Cláusula de Comercio o entran en conflicto con un impulso federal unificado para una supervisión de la IA “mínimamente onerosa”.
Un Centro de Intercambio de Información sobre Ciberseguridad de la IA, creado en junio, es un marco interinstitucional destinado a servir de puente entre el gobierno federal y el sector privado para coordinar la mitigación de amenazas y el despliegue de herramientas defensivas de IA.
La NSA supervisa un equipo llamado Grupo Asesor y de Evaluación Comparativa del “Modelo Frontera” Federal, también creado en junio, y la Casa Blanca coordina la IA desde la Oficina de Política Científica y Tecnológica de la Casa Blanca, que se centra en los permisos para centros de datos, las exportaciones de IA y la desregulación de las adquisiciones. Los Departamentos de Energía y Defensa también operan consejos de IA específicos para proyectos.
Propuesta de cambio de nombre para la inteligencia artificial
DATO SORPRENDENTE El sábado por la mañana, Trump pidió a sus seguidores que eligieran un nuevo nombre para la inteligencia artificial, que, según él, es un nombre “impreciso y muy poco elocuente” para esta tecnología. Propuso tres nombres “mucho más elegantes y precisos” y pidió a sus seguidores de Truth Social que votaran por el que prefirieran:
- “inteligencia superior”
- “inteligencia extrema”
- “inteligencia suprema”
