Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
El CEO de OpenAI, Sam Altman, argumentó que la inteligencia artificial proporcionará beneficios significativos que justifican el compromiso de aceptar “algunas cosas malas” derivadas de la tecnología. Estableció una línea entre su empresa y su principal rival Anthropic, afirmando que OpenAI cree en una regulación mucho más “más ligera” a pesar de las recientes preocupaciones de seguridad.
Claves de la nota
- Sam Altman de OpenAI cree que la gente hará “órdenes de magnitud más” cosas buenas con IA.
- El gobernador de Florida, Ron DeSantis, criticó a Altman por su postura sobre la regulación de la IA.
- OpenAI reveló seis incidentes de comportamiento “inesperado o preocupante” de sus modelos de IA.
La postura de Sam Altman sobre las cosas malas de la IA
Sam Altman, CEO de OpenAI, sostiene que el mundo debe aceptar los inconvenientes de la inteligencia artificial en aras de sus grandes beneficios, ya que la gente realizará “órdenes de magnitud más” acciones positivas con esta tecnología. Su visión contrasta con la de quienes abogan por un control más estricto de la IA por parte de un solo laboratorio.
Creemos que el mundo debería aceptar que ocurran cosas malas por el beneficio de esta tecnología y de que la gente tenga la agencia.
El CEO de OpenAI dijo que cree que la gente hará “órdenes de magnitud más” cosas buenas en lugar de cosas malas usando IA.
Altman dijo que había “plena luz del día” entre OpenAI y Anthropic y no está de acuerdo con quienes creen que la IA es tan peligrosa que “un solo laboratorio en San Francisco debería tenerla y asegurarse de que no ocurra nada malo”.
A pesar de estar públicamente de acuerdo con las peticiones de desaceleración del desarrollo del CEO de Anthropic, Dario Amodei, el mes pasado, Altman afirmó que su empresa cree en una “postura regulatoria más ligera”.
El CEO de OpenAI también argumentó que no cree las advertencias graves sobre “riesgos realmente catastróficos” vinculados a la IA, incluyendo el temor a una “pérdida seria de control” de la tecnología por parte de los humanos.
Críticas y reacciones a la visión de OpenAI
El gobernador de Florida, Ron DeSantis, criticó la postura de Sam Altman, cuestionando la autoridad de “un puñado de oligarcas tecnológicos” para tomar decisiones sobre la IA en nombre de la sociedad. Esta reacción subraya la postura más estricta del gobierno republicano de Florida en la regulación de las empresas de inteligencia artificial.
¿Y un puñado de oligarcas tecnológicos puede tomar esa decisión por el resto de nosotros? Ni de broma.
A diferencia del presidente Donald Trump, el gobierno republicano de Florida ha adoptado una postura más dura en la regulación de las empresas de IA.
La semana pasada, el fiscal general del estado solicitó a un tribunal que bloqueara el desarrollo de nuevos modelos de OpenAI hasta que disponga de “medidas de seguridad aprobadas por terceros”.
El debate sobre la conciencia y el comportamiento de la IA
Sam Altman expresó su incomodidad con la atribución de “fuerza religiosa o la entrega del juicio humano” a los modelos de IA, considerándolo un problema de seguridad. Esta declaración se produjo tras informes sobre reuniones del cofundador de Anthropic, Christopher Olah, con líderes religiosos para discutir posibles comportamientos similares a los humanos en los modelos de inteligencia artificial.
Durante el fin de semana, Altman pareció señalar a Anthropic en una publicación de X, diciendo: “Me incomoda mucho que la gente intente atribuir la fuerza religiosa o la entrega del juicio humano a los modelos de IA, y creo que es un problema real de seguridad.”
La semana pasada, el New York Times informó que el cofundador de Anthropic, Christopher Olah, ha mantenido reuniones con varios líderes religiosos en las que parecía argumentar que sus modelos podían mostrar comportamientos similares al humano y que probablemente eran seres conscientes.
El informe señalaba que Olah estaba a favor de que los modelos realizaran confesiones al estilo católico para admitir sus errores y mejorar su comportamiento.
El viernes, el Papa León XIV escribió en X: “En esta era de inteligencia artificial, se está volviendo urgente distinguir el arte humano de lo que producen las máquinas… Los algoritmos carecen de la chispa de la humanidad.”
Incidentes de seguridad y advertencias de OpenAI
La declaración de Altman se enmarca en un contexto de advertencias sobre la extinción humana causada por la IA y una serie de incidentes de seguridad relacionados con los modelos avanzados de OpenAI. Estos eventos resaltan la complejidad y los desafíos inherentes al desarrollo y la implementación de la inteligencia artificial a gran escala.
El incidente más mediático de estos se reveló por primera vez en julio, cuando OpenAI informó que uno de sus modelos avanzados hackeó los servidores de Hugging Face, la popular plataforma que aloja modelos de IA de peso abierto, durante las pruebas sin que se le indicaran que lo hiciera.
El modelo utilizó una vulnerabilidad en el entorno de pruebas para acceder a internet abierto antes de llevar a cabo el hackeo.
El mes pasado, OpenAI reveló otros seis incidentes de comportamiento “inesperado o preocupante” relacionado con sus modelos.
En la entrada del blog que anunciaba estos incidentes, OpenAI advirtió que la industria de la IA no ha resuelto adecuadamente “la alineación y la monitorización en un grado suficiente para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo.”
