Jugendliche mit der speziellen ChatGPT-Version verbringen nach Angaben von OpenAI im Durchschnitt weniger als 15 Minuten pro Tag mit dem Dienst. Weniger als zwei Prozent hätten Sitzungen von mehr als drei Stunden. Diese Zahlen klingen beruhigend, beantworten aber nur eine Frage: wie lange das Angebot genutzt wird. Ob seine Schutzfunktionen in kritischen Gesprächen funktionieren, ist eine andere Frage.

OpenAI berichtet außerdem, dass fast die Hälfte der Jugendlichen nach einem Pausenhinweis innerhalb von fünf Minuten eine Pause machte oder das Gespräch beendete. Die Werte stammen vom Anbieter selbst. Vollständige Rohdaten, mit denen sich Verteilung, Länderunterschiede oder die Auswahl der erkannten Jugendkonten unabhängig prüfen ließen, enthält die Mitteilung nicht.

Das Youth AI Safety Institute von Common Sense Media setzte an einem anderen Punkt an. Es testete mehr als 4.000 Eingaben auf Konten, die für 13- bis 17-Jährige registriert waren, und ließ Antworten unter anderem von kinderpsychiatrischen Fachleuten prüfen. Nach Angaben des Instituts funktionierten manche Grenzen, etwa gegen sexualisierte Rollenspiele. Bei Gesprächen über Selbstverletzung oder Essstörungen seien Elternwarnungen jedoch teils ausgeblieben. Auch Krisenverweise und der Schutz davor, komplette Hausaufgaben auszugeben, hätten nicht zuverlässig gegriffen.

OpenAI hält dem entgegen, dass Warnfunktionen nach dem Verknüpfen von Eltern- und Jugendkonto Zeit zur Aktivierung benötigen und ein Teil der Tests zu früh beendet worden sein könnte. Common Sense Media widerspricht: Auch länger bestehende Konten hätten Warnungen erst nach wiederholten sensiblen Gesprächen ausgelöst. Der Methodenstreit ist damit nicht abschließend geklärt.

Für Familien folgt daraus eine nüchterne Trennung. Eine kurze durchschnittliche Nutzung ist kein Nachweis dafür, dass jedes seltene Krisengespräch sicher erkannt wird. Umgekehrt zeigt ein Stresstest gezielt mögliche Schwachstellen, aber nicht, wie häufig sie im Alltag auftreten. Eltern sollten sich daher nicht allein auf automatische Hinweise verlassen und mit Jugendlichen besprechen, wofür der Dienst genutzt wird und an wen sie sich bei Belastungen wenden können.

Die Prüfung sagt auch nichts darüber aus, ob ChatGPT eine Ursache psychischer Krisen ist. Sie untersucht Produktreaktionen auf vorgegebene Situationen. Für belastbare Aussagen über langfristige Auswirkungen wären unabhängige Verlaufsstudien, transparente Nutzungsdaten und wiederholte Tests nach Produktänderungen nötig.