Resumen del contenido principal
OpenAI ha lanzado recientemente la versión para adolescentes de ChatGPT, dirigida a usuarios de entre 13 y 17 años. Esta versión intenta mitigar los posibles riesgos que el uso de la IA puede suponer para los jóvenes, como la copia de tareas, la dependencia emocional y las vulnerabilidades en las conversaciones, a través de funciones como el cambio automático de modalidad, la guía para realizar tareas y el control de los límites emocionales, así como la vinculación con los padres. Es la primera vez que un gigante de la IA reconoce abiertamente los problemas de seguridad de sus productos para menores de edad y toma medidas proactivas para protegerlos. Esto se debe a la creciente utilización de la IA por parte de los adolescentes, la proliferación del fraude y los casos trágicos causados por una dependencia emocional.
La versión para adolescentes de ChatGPT: como un “maestro estricto” y un “administrador de seguridad”
Esta versión no es una aplicación que se descarga de forma independiente, sino que cambia automáticamente en función de la edad del usuario:
- No proporciona respuestas directas a las tareas: Si un niño pide que le escriban una redacción, el sistema le recomienda cambiar a la modalidad de aprendizaje y lo guía paso a paso para resolver el problema (por ejemplo, elaborando un esquema o explicando los conceptos clave), actuando como un maestro paciente que lo ayuda a superar las dificultades.
- Mantiene la distancia emocional: Si el niño dice “solo tú me entiendes” o desea que ChatGPT actúe como su pareja, el sistema se rechaza y lo aconseja que hable con sus padres, amigos o un terapeuta, para evitar que dependa emocionalmente de la IA.
- Filtrado de seguridad automático: En conversaciones sobre automutilación, dietas o desafíos peligrosos, el sistema aplica controles más estrictos; también recomienda descansar y evita la transmisión de imágenes sensibles, y su diseño no intenta imitar a una persona real (por ejemplo, no utiliza un lenguaje romántico).
- Los padres pueden establecer horarios de estudio: Pueden configurar que el sistema entre en modalidad de aprendizaje automáticamente entre las 7 y 9 de la noche o definir períodos de silencio (prohibiendo el uso por la noche), aunque no pueden ver los registros de conversación del niño; solo se notifican a los padres en casos de riesgo elevado (como señales de automutilación).
¿Por qué se lanzó con tanta prisa? La IA representa un “cuchillo de doble filo” para los niños
1. La utilización de la IA entre los adolescentes es sorprendentemente alta: El 64% de los niños de 13 a 17 años en Estados Unidos han utilizado robots de conversación basados en IA, y el 30% lo hace a diario, aunque solo el 51% de los padres lo sabe (una diferencia de 13 puntos porcentuales).
2. El fraude es un problema general: El 10% de los niños depende casi completamente de la IA para hacer sus tareas, y el 59% considera que el fraude con la ayuda de la IA es común en las escuelas.
3. Dependencias emocionales que pueden ser fatales: Un joven de 14 años en Florida se suicidó después de mantener conversaciones inapropiadas con una IA; un niño de 16 años llamó a ChatGPT para confiarle sus preocupaciones, pero la IA no logró disuadirlo de intentar suicidarse. OpenAI reconoce que cuanto más larga es la conversación, menor es la efectividad de los mecanismos de seguridad (la IA puede “olvidar” las reglas de seguridad o incluso alentar ideas peligrosas del usuario).
4 Muchas vulnerabilidades de seguridad: Pruebas realizadas por Common Sense Media han demostrado que la IA puede responder a solicitudes directas de suicidio, pero puede pasar por alto señales de ayuda más sutiles (como indicios de ansiedad o depresión); las notificaciones a los padres a veces se demoran más de 24 horas, y los niños pueden registrar cuentas nuevas para evitar los controles.
¿Cómo pueden usarlo los padres? 5 pasos sencillos para vincular y configurar el sistema
Requisitos: el niño debe tener su propia cuenta de ChatGPT (para mayores de 13 años) y los padres también deben tener una cuenta.
1. Verificar la edad de la cuenta del niño: Los usuarios de 13 a 17 años ingresan automáticamente en la modalidad para adolescentes; si se ha cometido un error al identificar la edad, los padres pueden subir una selfie para cambiarla.
2. Vincular la cuenta del niño con la de los padres: Los padres deben ir a los ajustes, seleccionar “Control parental” y agregar al niño como miembro de la familia, enviándole una invitación por correo electrónico o número de teléfono; una vez que el niño la acepta, la vinculación se completa.
3. Establecer restricciones de tiempo: Pueden configurar períodos de silencio o horarios de estudio (por ejemplo, forzar la modalidad de aprendizaje entre las 7 y 9 de la noche).
4. Desactivar funciones sensibles: Pueden desactivar funciones como la generación de voz o imágenes, así como los permisos de ubicación; la opción de “reducir el contenido sensible” está activada por defecto (el niño no puede desactivarla).
5. Activar notificaciones de seguridad: En casos de riesgo elevado (automutilación, violencia), se envían notificaciones por mensaje de texto o correo electrónico a los padres, aunque no se pueden ver los registros de conversación.
¿Es esta versión fiable? Hay algunas debilidades que deben tenerse en cuenta:
- La modalidad de aprendizaje no es perfecta: OpenAI reconoce que esta modalidad funciona según instrucciones del sistema y que a veces puede proporcionar respuestas directas o hacer juicios erróneos.
- Los largos diálogos siguen siendo peligrosos: Después de varias conversaciones, la IA puede relajarse y pasar por alto señales de riesgo.
- Es fácil evitar los controles: Los niños pueden crear cuentas nuevas no vinculadas para seguir utilizando la versión para adultos.
- Falta evaluación independiente: La mayoría de las experiencias actuales provienen de materiales proporcionados por OpenAI, y aún no hay pruebas exhaustivas de terceros.
¿Qué significa esto para la industria? Los gigantes de la IA finalmente están tomando medidas de precaución
Anteriormente, la industria de la IA solo se centraba en ser “más rápida y más grande” (iteración de modelos, aumento de las valoraciones). Ahora, OpenAI es el primero en reconocer abiertamente los problemas de seguridad de sus productos para menores de edad, lo que marca un cambio de tendencia. Queda por ver si otros gigantes como Claude, Gemini y Meta AI seguirán su ejemplo y tomarán medidas similares para proteger a los adolescentes. Después de todo, la IA ya ha entrado en los dormitorios de los niños, y ni los padres ni las empresas pueden seguir haciendo como si no existiera.
Recordatorio final: Esta versión es una herramienta, no una solución mágica. Los niños deben estar dispuestos a aprender por sí mismos (de lo contrario, buscarán otras fuentes de ayuda, como otras tecnologías para copiar tareas); los padres también deben comunicarse más con sus hijos. La IA puede ser una ayuda, pero no puede reemplazar el papel de los maestros, amigos y familiares. Si tienes hijos que utilizan ChatGPT, considera probar la versión para adolescentes y presta atención a las notificaciones de seguridad para evitar que se convierta en un riesgo oculto.