ChatGPT für Jugendliche startet

Chatbots wie ChatGPT bringen große Risiken mit sich, vor allem für Kinder und Jugendliche. Der Staat Florida wollte OpenAI in diesem Jahr bereits aufgrund mangelnder Schutzmaßnahmen für junge User verklagen. 2025 verklagten die Eltern eines Jungen OpenAI, nachdem dieser sich umgebracht hatte. Sie warfen dem Unternehmen vor, dass ChatGPT das Kind emotional sowie mit Anweisungen beim Suizid unterstützt. Und die US-Behörde FTC (Federal Trade Commission) ordnete im selben Jahr eine Prüfung von OpenAI, Meta und Co. an, um überprüfen zu lassen, inwieweit die Tech-Unternehmen und -Konzerne Maßnahmen zum Schutz von Kindern einsetzen. Jetzt reagiert OpenAI mit einer dedizierten ChatGPT-Erfahrung nur für Jugendliche. Kinder haben offiziell ohnehin kein Nutzungsrecht.

So sieht ChatGPT für Teens aus: Schätzungen und Altersangaben als Grundlage

Offiziell ist die Nutzung von ChatGPT erst am 13 Jahren erlaubt. Personen im Alter von 13 bis 17 Jahren dürfen den Dienst laut Nutzungsbedingungen nur mit ausdrücklicher Zustimmung der Eltern und Erziehungsberechtigten nutzen. Die Nutzungsrealität des Dienstes, der wöchentlich über 900 Millionen aktive User und mehr als eine Milliarde User in der App zählt, dürfte anders aussehen. Viele Kinder und Jugendliche könnten ChatGPT auch ohne korrekte Altersangaben nutzen.

Neuerdings sollen aber alle Personen im Alter von 13 bis 17 Jahren automatisch die Version ChatGPT für Jugendliche nutzen. Das erinnert an dedizierte Teen-Konten in den sozialen Medien, wie sie Meta beispielsweise für Facebook und Instagram ebenfalls als Default eingeführt hat. Alle User, die angeben, 17 Jahre alt oder jünger zu sein, fallen in die neue Kategorie. Das soll auch für User gelten, bei denen OpenAI das Alter auf unter 18 Jahre einschätzt. Schon zu Anfang des Jahres führte OpenAI eine Altersvorhersage für User ein, die Jugendliche identifizieren und mit Schutzmaßnahmen versorgen soll, die nicht selbst ein Alter unter 18 Jahren angegeben haben. Das Unternehmen erklärt:

[…] Das Modell betrachtet eine Kombination aus verhaltensbezogenen und kontoübergreifenden Signalen, darunter, wie lange ein Konto bereits existiert, typische Tageszeiten der Aktivität, Nutzungsmuster über längere Zeiträume sowie das vom Benutzer angegebene Alter […].

Auf Sicherheitsmaßnahmen wie dieser Alterseinschätzung, Elternkontrollen und dem Teen Safety Blueprint als Framework für den Jugendschutz baut die neue Lösung auf. Die standardmäßige ChatGPT-Erfahrung für Jugendliche soll besonders beim Lernen unterstützen. Zu den verfügbaren Features zählen unter anderem:

• der Study Mode (Lernmodus): Der Lernmodus bietet schrittweise Unterstützung bei Fragen, um den jungen Usern dabei zu helfen, Lerninhalte eigenständig zu verstehen und Lösungen auch wirklich nachzuvollziehen.
• die neuen verantwortungsvollen Hausaufgabenhinweise: ChatGPT soll Jugendlichen, die offenbar versuchen, eine Aufgabe einfach nur an die KI auszulagern, an den Study Mode verweisen.
• Quizze und Lernvisualisierungen: ChatGPT bietet für Jugendliche neue Quizformate und Lernvisualisierungen, die Wissen anschaulich machen und zur Wiederholung und Vertiefung bereitstellen sollen.
• Study Hours (Lernzeiten): Jugendliche und Eltern können gemeinsam bestimmte Zeiten festlegen, in denen der Study Mode standardmäßig aktiviert ist. Das kann bei der Etablierung von Lernroutinen helfen.

Mehr Schutz für Jugendliche: Weniger Konfrontation mit gefährdenden Inhalten und Wahl beim KI-Training

ChatGPT bietet im Teen-Bereich altersgerechte Schutzmechanismen. Dabei steht im Fokus, dass ihnen weniger Inhalte zu Themen wie „Selbstverletzung, Gewalt, Essstörungen, gefährlichen Aktivitäten sowie expliziten sexuellen oder grafischen Inhalten“ angezeigt werden. Die zugrunde liegenden Schutzmaßnahmen basieren laut OpenAI auf den Prinzipien für Nutzer unter 18 Jahren im Model Spec. Diese Prinzipien bauen auf Erkenntnisse aus der Entwicklungsforschung sowie Empfehlungen von Expert:innen. OpenAI arbeitet zum Beispiel mit der American Psychological Association zusammen, um den mentale Gesundheit Jugendlicher im Umgang mit KI-Tools wie ChatGPT besser zu schützen.