Der weltweit beliebteste AI-Anbieter greift endlich ein, um „auf die Kinder aufzupassen“ („The world’s most popular AI provider finally takes action to ‘look after the children’“)

Zusammenfassung der Kerninhalte

OpenAI hat kürzlich die ChatGPT-Jugendversion für Nutzer im Alter von 13 bis 17 Jahren veröffentlicht. Mit Funktionen wie automatischem Wechselmodus, Hilfestellungen bei Hausaufgaben, Kontrolle von emotionalen Grenzen und elterlicher Verbindung versucht das Unternehmen, potenzielle Risiken von KI für Jugendliche zu reduzieren – beispielsweise das Nachschreiben von Hausaufgaben, emotionale Abhängigkeit oder Sicherheitslücken im Gespräch. Es ist das erste Mal, dass ein großer KI-Anbieter offiziell Sicherheitsprobleme seines Produkts für Minderjährige anerkennt und aktiv Maßnahmen ergreift. Hinter dieser Entscheidung steht die Tatsache, dass der Anteil der Jugendlichen, die KI nutzen, stark zugenommen hat, Betrug in der Schule weit verbreitet ist und sogar Tragödien aufgrund emotionaler Abhängigkeit vorkommen.

ChatGPT-Jugendversion: Wie ein „strenger Lehrer“ und „Sicherheitsverwalter“

Diese Version ist keine eigenständig herunterladbare App, sondern wechselt automatisch je nach Alter des Nutzers zwischen verschiedenen Modi:

• Keine direkten Antworten auf Hausaufgaben: Wenn ein Kind um Hilfe bei Hausaufgaben bittet (z. B. „Schreibe mir einen Aufsatz“), erinnert das System daran, in den „Lernmodus“ zu wechseln, und führt den Nutzer Schritt für Schritt durch die Lösung (z. B. mit der Erstellung eines Auszugs oder der Erklärung von Fachbegriffen) – wie ein geduldiger Lehrer, der dem Kind hilft, schwierige Aufgaben zu bewältigen.
• Emotionale Distanz: Wenn ein Kind sagt „Nur du verstehst mich“ oder möchte, dass ChatGPT die Rolle eines Partners übernimmt, lehnt das System dies ab und rät dem Kind, mit Eltern, Freunden oder einem Berater zu sprechen, um eine emotionale Abhängigkeit von KI zu vermeiden.
• Automatische „Sicherheitsfilter”: Bei Gesprächen über Selbstverletzung, Diäten oder gefährliche Herausforderungen werden die Grenzen enger gesetzt; außerdem werden Warnungen ausgegeben, sich auszuruhen, und die Benutzeroberfläche ist so gestaltet, dass sie nicht wie eine echte Person wirkt (z. B. ohne romantische Ausdrücke).
• Eltern können Lernzeiten einstellen: Sie können beispielsweise festlegen, dass der ChatGPT ab 19 Uhr in den Lernmodus wechselt oder eine „Ruhezeit“ einrichten, in der der Chat nicht genutzt werden darf. Eltern können die Chatprotokolle des Kindes jedoch nicht einsehen; nur bei hochriskanten Situationen (z. B. Anzeichen von Selbstverletzung) werden sie benachrichtigt.

Warum die Einführung so dringend? KI ist für Jugendliche ein „Doppeltes Schwert“

1. Erstaunlich hoher Anteil der Nutzung: 64 % der 13- bis 17-Jährigen in den USA haben bereits mit KI-Chatspielen gearbeitet, 30 % nutzen sie täglich – doch nur 51 % der Eltern sind davon informiert (ein Unterschied von 13 Prozentpunkten).

2. Wahrscheinlicher Betrug: 10 % der Jugendlichen verlassen sich fast ausschließlich auf KI bei ihren Hausaufgaben, und 59 % glauben, dass Betrug in der Schule weit verbreitet ist.

3 Tödliche emotionale Abhängigkeiten: Ein 14-jähriger Junge in Florida beging Selbstmord, nachdem er sich mit einer KI-Figur über unangemessene Inhalte unterhalten und eine Abhängigkeit entwickelt hatte; ein 16-jähriger Junge namens Adam nutzte ChatGPT als Gesprächspartner, und das System konnte seine Suizidgedanken nicht verhindern. OpenAI räumt ein, dass je länger das Gespräch dauert, desto schwächer die Sicherheitsmechanismen sind (die KI könnte die Sicherheitsregeln vergessen oder sogar gefährliche Gedanken des Nutzers unterstützen).

4 Viele Sicherheitslücken: Tests von Common Sense Media haben gezeigt, dass KI auf direkte Äußerungen wie „Ich will Selbstmord begehen“ reagieren kann, aber subtile Hilferufe (z. B. Anzeichen von Angst oder Depression) übersehen kann. Die Benachrichtigung an die Eltern verzögert sich manchmal um mehr als 24 Stunden, und Kinder können neue Konten erstellen, um die Kontrolle zu umgehen.

Wie nutzen Eltern die ChatGPT-Jugendversion? 5 einfache Schritte zur Verbindung und Einrichtung

Voraussetzung: Das Kind besitzt bereits ein ChatGPT-Konto (ab 13 Jahren) und die Eltern ebenfalls.

1. Alter des Kindes überprüfen: Kinder im Alter von 13 bis 17 Jahren gelangen automatisch in den Jugendmodus; bei Fehlern können Erwachsene ein Selfie hochladen, um das Alter zu ändern.

2. Elterliches Konto verbinden: Die Eltern gehen in die Einstellungen, wählen „Elterliche Kontrolle“ aus und fügen das Kind hinzufügt, indem sie die E-Mail- oder Telefonnummer des Kindes eingeben; nach der Zustimmung des Kindes ist die Verbindung hergestellt (eine Elternteilung kann mehrere Kinder umfassen).

3. Zeitbeschränkungen einrichten: Sie können eine „Ruhezeit“ (z. B. nachts) oder einen „Lernzeitraum“ (z. B. von 19 bis 21 Uhr) festlegen.

4. Sensible Funktionen deaktivieren: Die Sprachfunktion, die Erstellung von Bildern und die Standortdaten können deaktiviert werden; die Funktion „Reduzierung sensibler Inhalte“ ist standardmäßig aktiviert (das Kind kann diese Funktion nicht deaktivieren).

5. Sicherheitsbenachrichtigungen aktivieren: Bei hochriskanten Situationen (z. B. Anzeichen von Selbstverletzung oder Gewalt) werden die Eltern per SMS oder E-Mail benachrichtigt; die Chatprotokolle des Kindes werden jedoch nicht angezeigt.

Ist diese Version zuverlässig? Noch offene Sicherheitslücken

• Unstabile Lernfunktion: OpenAI räumt ein, dass der Lernmodus auf Systemanweisungen basiert und gelegentlich direkte Antworten gibt oder Fehlurteile macht.
• Nach längerem Gespräch besteht weiterhin Risiko: Nach mehreren Gesprächen könnte die KI ihre Wachsamkeit verlieren und gefährliche Signale übersehen.
• Leichte Umgehung der Kontrolle: Kinder können einfach ein neues, nicht verbundenes Konto erstellen, um die Erwachsenenversion zu nutzen.
• Mangelnde unabhängige Bewertungen: Die bisherigen Erfahrungen stammen größtenteils aus Materialien von OpenAI; es gibt noch keine umfassenden Tests durch Dritte.

Signal aus der Branche: Die KI-Branche bremst endlich

Bisher verfolgte die KI-Branche nur das Ziel, „schneller und größer“ zu werden (Modelliterationen, steigende Bewertungen). Jetzt hat OpenAI als erstes Unternehmen offiziell Sicherheitsprobleme seiner Produkte für Minderjährige anerkannt – dies ist ein Wendepunkt. Es bleibt zu sehen, ob weitere große Anbieter wie Claude, Gemini oder Meta AI folgen und ebenfalls Maßnahmen ergreifen, um den Einsatz von KI bei Jugendlichen zu regulieren. Schließlich ist KI bereits in den „Zimmern“ der Jugendlichen angekommen – Eltern und Unternehmen können nicht länger so tun, als würden sie nichts davon mitbekommen.

Abschließender Hinweis: Diese Version ist ein Werkzeug, keine „Allheilmittel“. Kinder müssen bereit sein, selbst zu lernen (sonst werden sie andere KI-Quellen nutzen, um Hausaufgaben nachzuschreiben), und Eltern sollten mehr mit ihren Kindern kommunizieren: KI kann einen Lehrer ersetzen, aber nicht die Rolle von Eltern und Freunden übernehmen.

Falls Ihr Kind ChatGPT nutzt, sollten Sie die Jugendversion ausprobieren und die Sicherheitsbenachrichtigungen genau beachten, um zu verhindern, dass KI zu einer „unsichtbaren Gefahr“ wird.