Zuckerberg pide más responsabilidad y menos freno ante la IA

Mark Zuckerberg y la inteligencia artificial sin frenos

El director ejecutivo de Meta, Mark Zuckerberg, ha apostado por que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial que desarrollan las empresas, pero no por frenar su desarrollo.

Claves de la nota

• Mark Zuckerberg señaló en la red social X que cada laboratorio tiene la responsabilidad y el incentivo de avanzar de forma segura.
• Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial para centrarse en su seguridad.
• Zuckerberg asegura que la confianza y la alineación se están convirtiendo en las capacidades más importantes para diferenciar modelos.

• Lo ha hecho en una entrada en la red social X, en la que ha señalado que cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura y la capacidad de tomar sus propias medidas para garantizar que eso suceda.
• Lo ha hecho en una entrada en la red social X, en la que ha señalado que cada laboratorio tiene “la responsabilidad y el incentivo” de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura y la capacidad de tomar sus propias medidas para garantizar que eso suceda.

Seguridad y desarrollo en Meta

Zuckerberg ha recordado que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial para centrarse en su seguridad, pero también que no exigieron al resto de empresas que lo hicieran también.

“simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, mantiene.

La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén “alineados” con ellos y que no hagan lo que se les pide, por lo que los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos.

Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas, Zuckerberg asegura que “la confianza y la alineación” se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos.

“Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, ha escrito en X, donde mantiene que contratar evaluadores y asesores independientes “es la mejor práctica de la industria”.

Afirma que Meta ha asumido ese compromiso con la seguridad y que “otros laboratorios también pueden hacerlo”, y que la clave para construir un futuro positivo para todos “reside en mantener el equilibrio de poder adecuado”.

Añadir como fuente preferida en Google