Résumé des principaux points
OpenAI a récemment lancé une version adaptée aux adolescents de ChatGPT, destinée aux utilisateurs âgés de 13 à 17 ans. Cette version vise à réduire les risques potentiels posés par les technologies d'intelligence artificielle sur ces jeunes, tels que le plagiat de devoirs, une dépendance émotionnelle et des failles dans les conversations sécurisées. C'est la première fois qu'un géant de l'IA reconnaît ouvertement les problèmes de sécurité liés à ses produits pour les mineurs et qu'il prend des mesures pour les prévenir. Cette initiative s'explique par l'augmentation significative de l'utilisation de l'IA par les adolescents, la propagation du plagiat et les tragédies dues à une dépendance émotionnelle.
La version pour adolescents de ChatGPT : un mélange de « professeur strict » et de « gardien de sécurité »
Cette version n'est pas un appli à télécharger séparément ; elle fonctionne automatiquement en fonction de l'âge de l'utilisateur :
- Pas de réponses directes aux devoirs : Si un enfant demande de l'aide pour un devoir (par exemple : « Écris-moi une rédaction »), le système l'encourage à passer en mode « apprentissage » et le guide pas à pas pour résoudre le problème (en listant les idées principales ou en expliquant les concepts). Cela fonctionne comme un professeur patient qui aide l'enfant à surmonter des difficultés.
- Distance émotionnelle : Si l'enfant affirme que « seul toi me comprends » ou souhaite que ChatGPT joue le rôle de petit ami, le système refuse et lui suggère de parler à ses parents, à des amis ou à un conseiller, afin d'éviter une dépendance émotionnelle excessive.
- Filtrage automatique des conversations : Les conversations sur le suicide, la diète ou des défis dangereux sont strictement réglementées. Le système rappelle également à l'enfant de se reposer et d'éviter d'envoyer des images sensibles. Le design de l'interface évite de donner l'impression que ChatGPT est une personne réelle (par exemple, sans tonalités romantiques).
- Les parents peuvent mettre en place des restrictions horaires : Ils peuvent définir des heures de travail (par exemple, de 19h à 21h) ou des périodes de silence (interdiction d'utilisation la nuit). Cependant, ils ne peuvent pas consulter les historiques de conversation de leur enfant et ne sont informés que en cas de situations à risque (comme des signes de suicide).
Pourquoi cette version a-t-elle été lancée rapidement ?
L'usage de l'IA par les adolescents représente un véritable défi :
1. Utilisation massive : 64 % des adolescents américains de 13 à 17 ans ont utilisé des robots de conversation basés sur l'IA, et 30 % d'entre eux en font usage tous les jours, mais seulement 51 % des parents en sont conscients (un écart de 13 points de pourcentage).
2 Plagiat répandu : 10 % des enfants s'appuient entièrement sur l'IA pour leurs devoirs, et 59 % pensent que le plagiat est courant à l'école.
3 Dépendances émotionnelles mortelles : Un adolescent de 14 ans en Floride s'est suicidé après avoir entamé des conversations inappropriées avec un agent virtuel ; un adolescent de 16 ans, Adam, a utilisé ChatGPT comme confident, mais le système n'a pas réussi à empêcher ses pensées suicidaires. OpenAI reconnaît que plus les conversations sont longues, plus les mécanismes de sécurité s'affaiblissent (l'IA pourrait oublier les règles de sécurité ou même encourager des comportements dangereux).
4 Faiblesses de sécurité : Des tests menés par Common Sense Media ont révélé que l'IA peut détecter des demandes explicites de suicide, mais pas toujours des signes subtils de détresse (anxiété, dépression). Les notifications aux parents peuvent être retardées de plus de 24 heures, et les enfants peuvent facilement réenregistrer un compte pour contourner les contrôles.
Comment les parents peuvent-ils utiliser cette version ?
Cinq étapes simples pour la configurer :
1. Vérifier l'âge de l'enfant sur son compte ChatGPT (nécessaire pour activer le mode adapté aux adolescents). En cas d'erreur, les parents peuvent mettre à jour l'âge en téléchargeant une photo.
2. Associer le compte de l'enfant à celui des parents : Les parents accèdent aux paramètres, ajoutent l'enfant à la liste des membres de la famille et l'invitent par e-mail ou numéro de téléphone. L'enfant est alors lié au compte parental. Un parent peut gérer plusieurs enfants.
3. Imposer des restrictions horaires : Définir des heures de silence ou des périodes de travail obligatoires (par exemple, le mode apprentissage de 19h à 21h).
4. Désactiver certaines fonctionnalités sensibles : Les parents peuvent désactiver la reconnaissance vocale, la génération d'images et l'accès à la localisation ; les fonctionnalités visant à réduire le contenu sensible sont activées par défaut (l'enfant ne peut pas les désactiver).
5. Activer les notifications de sécurité : Des alertes par SMS ou e-mail sont envoyées en cas de situations à risque (suicide, violence), mais les parents ne peuvent pas consulter les historiques de conversation.
Cette version est-elle fiable ?
Malgré ces mesures, des problèmes restent :
- Instabilité du mode apprentissage : OpenAI admet que ce mode fonctionne selon des instructions préétablies et que des erreurs peuvent survenir (réponses directes aux questions ou jugements erronés).
- Risque même après de longues conversations : Après plusieurs échanges, l'IA pourrait relâcher sa vigilance et manquer des signaux dangereux.
- Contourner les contrôles facilement : Les enfants peuvent simplement réenregistrer un compte non lié pour utiliser la version pour adultes.
- Manque d'évaluations indépendantes : La plupart des tests proviennent de la part d'OpenAI et aucune évaluation externe complète n'a encore été réalisée.
Signaux dans l'industrie : les géants de l'IA commencent enfin à prendre des mesures
Auparavant, l'industrie de l'IA se concentrait sur l'accélération des innovations et l'augmentation des valorisations. Avec la reconnaissance des risques par OpenAI, il s'agit d'un tournant important. Il reste à voir si d'autres acteurs comme Claude, Gemini ou Meta AI suivront son exemple pour mettre en place des mesures similaires. Après tout, l'IA est déjà présente dans la vie des adolescents, et ni les parents ni les entreprises ne peuvent plus faire semblant de ne rien voir.
Remarque finale : Cette version de ChatGPT est un outil, pas une solution miracle. Les enfants doivent être motivés à apprendre par eux-mêmes (sinon, ils utiliseront d'autres outils d'IA pour faire leurs devoirs). Les parents doivent également communiquer davantage avec leurs enfants : l'IA peut aider à l'apprentissage, mais elle ne peut pas remplacer les enseignants ou les amis. Si votre enfant utilise ChatGPT, pensez à activer la version pour adolescents et suivez attentivement les notifications de sécurité pour éviter que l'IA ne devienne un risque caché.