ChatGPT para adolescentes

• ESET Latinoamérica analiza cómo a medida que la inteligencia artificial gana espacio entre los adolescentes, controles parentales y nuevas medidas de protección buscan reducir sus riesgos.

ChatGPT para adolescentes: seguridad y nuevas funciones

OpenAI lanzó recientemente ChatGPT for Teens, una versión de su chatbot diseñada para usuarios de entre 13 y 17 años, que incorpora protecciones de seguridad adicionales, controles parentales y funciones específicas para el aprendizaje. Esta iniciativa busca que los jóvenes utilicen la IA para estudiar y desarrollar habilidades dentro de un entorno adaptado a su edad y con menos riesgos.

Claves de la nota

• OpenAI lanzó ChatGPT for Teens para usuarios de 13 a 17 años con protecciones adicionales.
• ESET advierte sobre temas sensibles como violencia gráfica y autolesiones que reciben protección.
• Los padres pueden vincular cuentas y ajustar configuraciones, pero no leer conversaciones.

La compañía ESET, líder en detección proactiva de amenazas, ha señalado que temas como la violencia gráfica, las autolesiones, los comportamientos peligrosos, la imagen corporal y el contenido sexual ahora cuentan con un nivel de protección específico. Esta novedad de OpenAI tiene como objetivo fomentar hábitos digitales más saludables y ofrecer a los padres nuevas herramientas para controlar ciertas configuraciones de uso del sistema.

Protecciones específicas y compromisos de OpenAI

El desarrollo de ChatGPT for Teens se fundamentó en cuatro compromisos clave de OpenAI: priorizar la seguridad de los adolescentes, fomentar el apoyo en el mundo real, tratar a los adolescentes como tales y ser transparente sobre el comportamiento de los sistemas. El objetivo principal es reducir la exposición a contenidos e interacciones que puedan ser inapropiados para este grupo etario.

Las protecciones implementadas cubren situaciones relacionadas con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico, y cuestiones vinculadas a la imagen corporal. Además, se han establecido límites adicionales para interacciones que podrían fomentar comportamientos de riesgo entre los jóvenes usuarios. A pesar de estos esfuerzos, la propia OpenAI reconoce que ningún sistema de IA es perfecto, por lo que su estrategia combina mecanismos tecnológicos, configuraciones específicas para menores y la participación activa de padres o tutores.

Controles parentales y límites de acceso

Un aspecto fundamental de la herramienta son los controles parentales, que permiten a padres, madres y tutores vincular su cuenta con la de un adolescente. Esto les habilita para ajustar configuraciones como el modo de estudio, los horarios de silencio y otras opciones de seguridad, e incluso el sistema puede enviar una notificación a los responsables en situaciones consideradas de alto riesgo.

Sin embargo, el acceso de los padres es limitado, ya que no pueden leer las conversaciones de los adolescentes. Según OpenAI, el propósito no es convertir ChatGPT en una herramienta de vigilancia, sino proporcionar a los responsables medios para configurar la experiencia y establecer límites de uso, respetando la privacidad de los jóvenes.

Fomentando el aprendizaje y la comprensión con IA

La educación es una de las grandes apuestas de este lanzamiento, ya que ChatGPT for Teens no solo ofrece respuestas directas, sino que busca estimular la comprensión de los contenidos. El Modo Estudio es un claro ejemplo, utilizando preguntas orientadoras y apoyo paso a paso para ayudar a los adolescentes a entender un tema y desarrollar su propio razonamiento crítico.

El sistema también incluye recordatorios para las tareas escolares: si detecta que un adolescente intenta obtener solo una respuesta directa, puede redirigir la conversación al Modo Estudio. Las Horas de Estudio permiten definir períodos en los que las nuevas conversaciones que cumplan los requisitos comiencen automáticamente en este modo, integrando la herramienta en la rutina escolar.

El desafío de la antropomorfización y la interacción segura

La seguridad de los adolescentes frente a la IA va más allá del bloqueo de contenido inapropiado, enfrentando el desafío central de la antropomorfización. Esta tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico es particularmente relevante para los adolescentes, quienes pueden ver a ChatGPT no solo como una herramienta de estudio, sino como un interlocutor constante.

“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real”, comenta Mario Micucci, investigador de seguridad informática de ESET Latinoamérica.

ChatGPT for Teens intenta responder cómo permitir que los adolescentes aprovechen los beneficios de la IA sin aumentar su exposición a riesgos digitales. Los controles parentales, las salvaguardas específicas, los recursos educativos y los límites de interacción son parte de este esfuerzo, aunque ninguno de ellos resuelve el problema por sí solo.

La evolución de la seguridad en la inteligencia artificial

«Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información», agrega Micucci. Para el especialista, la seguridad y la privacidad deben incorporarse desde el diseño y evolucionar al mismo ritmo que la tecnología, considerándolas esenciales para generar confianza entre jóvenes, familias y escuelas.

La tecnología continúa evolucionando, y es probable que surjan nuevos riesgos a medida que la IA ocupe más espacio en la rutina de niños, niñas y adolescentes. El punto central ya no es si los jóvenes deben utilizar inteligencia artificial, sino cómo hacerlo de forma segura y consciente. ChatGPT for Teens representa un paso en esta dirección, aunque el debate sobre cómo preparar a esta generación para convivir con la IA, sin perder de vista sus límites y riesgos, apenas está comenzando.

Para saber sobre ESET más ingrese a: WelivesecurityPor otro lado, ESET invita a conocer Conexión Segura, su podcast para saber qué está ocurriendo en el mundo de la seguridad informática. Para escucharlo ingrese a: Spotify

Añadir como fuente preferida en Google