Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
Tecnología y riesgos ocultos tras el uso de imágenes en inteligencia artificial
Managua.- ESET Latinoamérica advierte sobre las consecuencias de exponer imágenes y datos personales en los distintos sitios o aplicaciones web y qué tener en cuenta para evitar riesgos. La última actualización de ChatGPT ha permitido a sus usuarios generar imágenes inspiradas en la estética de los años 80.
Claves de la nota
- En mayo de 2024, Outabox sufrió una filtración que expuso datos de reconocimiento facial y otra información personal de usuarios.
- La última actualización de ChatGPT ha permitido a sus usuarios generar imágenes inspiradas en la estética de los años 80.
- Daniel Romagoza es el gerente de ESET Nicaragua, entidad que advierte sobre los riesgos del uso de información biométrica.
La funcionalidad se ha viralizado rápidamente en redes sociales, donde miles de personas han compartido fotografías transformadas con este estilo. No es la primera vez que una tendencia de este tipo despierta el interés de millones de usuarios.
Hace poco más de un año, ChatGPT también se convirtió en tendencia al permitir transformar fotografías reales de usuarios inspiradas en el característico estilo artístico asociado al estudio de animación cofundado por el legendario cineasta japonés Hayao Miyazaki.
Sin embargo, desde ESET, compañía líder en detección proactiva de amenazas, advierten que sumarse a una tendencia por diversión puede tener consecuencias que van más allá de la imagen resultante.
El uso de fotografías y otros datos personales en plataformas digitales implica compartir información que, dependiendo de las condiciones de cada servicio, podría ser almacenada, procesada o utilizada para otros fines.
Además, si una plataforma o sus sistemas de almacenamiento son comprometidos, la información podría quedar expuesta y ser utilizada para cometer fraudes, suplantaciones de identidad u otros delitos.
Por ello, antes de cargar una fotografía o cualquier otro dato personal, es importante conocer qué información se solicita, cómo será utilizada y durante cuánto tiempo será conservada.
Cuando los datos biométricos quedan expuestos
Los riesgos asociados al uso de información biométrica no son hipotéticos. Un ejemplo es Clearview AI, empresa que desarrolló un motor de búsqueda de rostros a partir de imágenes recopiladas de fuentes públicas como redes sociales, revistas digitales y blogs.
La compañía ha enfrentado cuestionamientos, investigaciones y sanciones en distintos países por sus prácticas de recopilación y uso de datos personales.
Otro caso ocurrió en Australia. En mayo de 2024, Outabox sufrió una filtración que expuso datos de reconocimiento facial y otra información personal de usuarios de 19 establecimientos, incluyendo datos biométricos, licencias de conducir, firmas, direcciones, fechas de nacimiento y números de teléfono.
“El funcionamiento de los modelos de IA depende mayoritariamente del acceso a grandes volúmenes de datos con los que se entrenan y de los cuales se sirven. Muchos contienen información personal, sensible y confidencial. Estas fuentes pueden ser públicas, provenir directamente de los usuarios, como ocurre con las tendencias de imágenes generadas con IA, de redes sociales y, más recientemente, de dispositivos IoT ”, explica Daniel Romagoza, gerente de ESET Nicaragua.
A diferencia de una contraseña, los datos biométricos no pueden cambiarse fácilmente si son comprometidos. Su exposición puede facilitar la suplantación de identidad, fraudes y otras formas de abuso, por lo que conocer cómo las plataformas recopilan, almacenan y utilizan esta información resulta fundamental.
El riesgo oculto tras la IA: ¿qué pasa con los datos compartidos?
El peligro de interactuar con herramientas de IA no radica solo en las filtraciones, sino en el desconocimiento sobre cómo se almacenan, protegen o utilizan los datos para entrenar nuevos modelos. Frente a esto, ESET aconseja evaluar la privacidad antes de unirse a tendencias virales:
- Analizar políticas de privacidad: Verificar qué datos recopila la plataforma, cuánto tiempo los conserva y si los comparte con terceros.
- Confirmar medidas de protección: Ante la falta de información clara sobre transparencia y regulaciones del sitio, evitar subir fotos personales, familiares o con información sensible como el lugar de trabajo.
- Descargar únicamente de fuentes oficiales: Evitar plataformas de origen dudoso, ya que los ciberdelincuentes suelen crear sitios falsos que prometen generar imágenes para infectar dispositivos con malware.
“La facilidad y rapidez con la que estas herramientas producen resultados no debería llevarnos a dejar de lado la privacidad. Antes de subir una foto, debemos preguntarnos qué datos entregamos, quién tendrá acceso a ellos y para qué se usarán”, concluye Romagoza de ESET.
Para saber más puede ingresar a WeLiveSecurity, es sitio de noticias de ESET: Welivesecurity Por otro lado, ESET invita a conocer Conexión Segura, su podcast para saber qué está ocurriendo en el mundo de la seguridad informática. Para escucharlo ingrese a: Spotify
