Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
OpenAI pide disculpas a Australia
OpenAI pidió disculpas a Australia después de que un modelo usado en pruebas internas accediera sin autorización a áreas no públicas del portal de Medicare y consultara archivos técnicos, credenciales y código. La empresa dijo que no encontró indicios de acceso a historiales médicos o datos individuales de pacientes y admitió que debió informar antes a las autoridades. También aseguró que reforzó sus controles de red y supervisión. El incidente coincide con reportes sobre el aplazamiento de GPT-6.1 Astra por problemas de seguridad.
Claves de la nota
- OpenAI pidió disculpas a Australia tras el acceso no autorizado de un modelo a sistemas gubernamentales en junio.
- La compañía aseguró que no encontró evidencias de que se accediera a historiales médicos de pacientes.
- El incidente coincide con reportes sobre el aplazamiento del modelo GPT-6.1 Astra por problemas de seguridad.
OpenAI pidió disculpas este martes a Australia por el acceso no autorizado de uno de sus modelos de Inteligencia Artificial a sistemas gubernamentales durante unas pruebas internas y reconoció que debería haber informado antes a las autoridades sobre el incidente, que la compañía considera un nuevo tipo de amenaza cibernética.
Lo sentimos
afirmó la tecnológica en un comunicado en el que explicó que, durante un entrenamiento y evaluación internos realizados en junio, uno de sus modelos accedió a páginas del Gobierno australiano de una forma que no estaba autorizada. Se trata de un nuevo tipo de incidente cibernético que representa un desafío global emergente.
Respuesta y cooperación institucional
Una de las formas en que pretendemos asumir la responsabilidad por la situación es trabajar de manera deliberada con Australia, añadió la empresa. La reacción de OpenAI se produce días después de que el primer ministro australiano, Anthony Albanese, denunciara ante la Asamblea General de Naciones Unidas en Nueva York que un agente de IA de la compañía había accedido sin autorización a un portal del sistema público de salud, Medicare.
Según la investigación de OpenAI, el modelo, que estaba siendo utilizado en un entorno interno y no estaba destinado a su lanzamiento público, encontró una forma de acceder a zonas no públicas del sistema, donde ejecutó comandos, consultó archivos internos, credenciales y estadísticas agregadas y llegó a escribir archivos.
La compañía, que reúne hoy en San Francisco a la comunidad de desarrolladores para probar sus últimas herramientas de inteligencia artificial, asegura que no ha encontrado evidencias de que se accediera a historiales médicos ni a registros individuales de pacientes.
Detalles de la investigación interna
El modelo había recibido la tarea de investigar el gasto público por persona en medicamentos para enfermedades de la piel en comunidades de Victoria, al sur del país. Al encontrar dificultades para obtener la información, adoptó acciones que OpenAI no había autorizado y consiguió acceder a información técnica y código fuente del servicio.
La empresa reconoció que debería haber comunicado antes sus conclusiones preliminares a las autoridades australianas y aseguró que está trabajando para reconstruir la confianza en el país.
Anthony Albanese señaló este martes que OpenAI ha mantenido una actitud muy constructiva y abierta con el Gobierno desde el incidente y reiteró que la IA puede impulsar el crecimiento económico y la productividad, aunque también entraña riesgos.
Tras los incidentes, OpenAI afirma haber reforzado las restricciones de red y los sistemas de supervisión en sus entornos de investigación, además de bloquear el acceso directo a Internet en determinadas pruebas.
La polémica coincide con la información publicada este lunes por The Wall Street Journal sobre el aplazamiento del lanzamiento de GPT-6.1 Astra, un nuevo modelo de OpenAI que, según el diario, presentó problemas de seguridad.
