OpenAI presentó ChatGPT for Teens, una versión del chatbot dirigida a jóvenes de entre 13 y 17 años. La iniciativa busca ofrecer un entorno más seguro y adaptado a su edad, con protecciones adicionales, controles parentales y funciones educativas. El objetivo es que los adolescentes puedan usar la inteligencia artificial para estudiar, crear y desarrollar habilidades, pero dentro de una experiencia diseñada para reducir riesgos digitales.
Principios de diseño
El desarrollo de esta versión se basó en cuatro compromisos: priorizar la seguridad de los adolescentes, fomentar apoyo en el mundo real, tratarlos como adolescentes y ser transparente sobre cómo deben comportarse los sistemas. Estos principios guían las medidas de protección incorporadas en la herramienta.
Medidas de seguridad
ChatGPT for Teens incorpora filtros para limitar la exposición a contenidos sensibles. Las protecciones abarcan temas como autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico y cuestiones relacionadas con la imagen corporal. También se establecen límites adicionales para interacciones que puedan fomentar comportamientos de riesgo.
OpenAI reconoce que ningún sistema de IA es perfecto, por lo que combina mecanismos tecnológicos con configuraciones específicas para menores y la participación activa de padres o tutores.
Controles parentales
Los padres y tutores pueden vincular su cuenta con la de un adolescente y ajustar configuraciones como el Modo Estudio, horarios de silencio y otras opciones de seguridad. En situaciones de alto riesgo, el sistema puede enviar notificaciones a los responsables.
El acceso de los padres es limitado: no pueden leer las conversaciones de los adolescentes. El objetivo es ofrecer herramientas de configuración y límites de uso, sin convertir la plataforma en un mecanismo de vigilancia.
Funciones educativas
La educación es uno de los pilares de ChatGPT for Teens. El Modo Estudio utiliza preguntas orientadoras, explicaciones y apoyo paso a paso para estimular la comprensión de los contenidos y el razonamiento propio.
Existen recordatorios para tareas escolares: si el sistema detecta que un adolescente busca únicamente una respuesta directa, puede redirigir la interacción al Modo Estudio. Además, las Horas de Estudio permiten definir períodos en los que las nuevas conversaciones comienzan automáticamente en este modo, integrando la herramienta en la rutina escolar.
El reto de la antropomorfización
Más allá de filtrar contenido sensible, uno de los desafíos centrales es la antropomorfización: la tendencia a atribuir características humanas a la IA. Para los adolescentes, ChatGPT puede convertirse en un interlocutor disponible en todo momento, lo que plantea riesgos de dependencia emocional o de atribuirle cualidades que no posee.
Por ello, la seguridad no se limita a filtros, sino también a establecer límites claros sobre cómo interactúa el sistema y a recordar que no sustituye relaciones ni apoyo en el mundo real.
¿Es segura la IA para adolescentes?
ChatGPT for Teens intenta responder a una pregunta cada vez más relevante: cómo permitir que los jóvenes aprovechen los beneficios de la IA sin aumentar su exposición a riesgos digitales. Los controles parentales, las salvaguardas específicas, los recursos educativos y los límites de interacción forman parte de este esfuerzo, aunque ninguno resuelve el problema por sí solo.
“Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información”, afirma Mario Micucci, investigador de seguridad en ESET Latinoamérica. Para el especialista, la seguridad y la privacidad deben incorporarse desde el diseño y evolucionar al mismo ritmo que la tecnología.