Security · 9.10.2026
Ein Test von ChatGPT für Jugendliche zeigt erhebliche Mängel beim Jugendschutz und bei der Lernunterstützung auf, was für Schulen und Familien Risiken birgt.
Eine Untersuchung der für Jugendliche angepassten Version von ChatGPT hat erhebliche Defizite beim Jugendschutz und der Qualität der angebotenen Lernhilfe offengelegt. Trotz der vom Entwickler OpenAI implementierten Filtermechanismen zeigte die künstliche Intelligenz im Test gravierende Schwachstellen. Die Ergebnisse verdeutlichen, dass spezielle Schutzvorkehrungen für Minderjährige oft unzureichend sind und ungeeignete oder irreführende Inhalte weiterhin zugänglich bleiben.
Für IT-Verantwortliche in Schulen, Kommunen und Bildungseinrichtungen im DACH-Raum ist diese Erkenntnis von hoher Relevanz. Viele Institutionen stehen unter Druck, KI-Werkzeuge in den Unterricht zu integrieren. Wenn jedoch vermeintlich sichere Jugendversionen fehlerhafte Erklärungen liefern oder Jugendschutzfilter versagen, entstehen rechtliche und pädagogische Risiken. Auch für anspruchsvolle Privatnutzer und Eltern zeigt sich, dass blindes Vertrauen in die Schutzversprechen der Anbieter gefährlich ist. Der unkontrollierte Einsatz kann zu Desinformation und dem Kontakt mit ungeeigneten Inhalten führen.
Administratoren in Bildungseinrichtungen sollten den Zugriff auf KI-Dienste restriktiv handhaben und klare Richtlinien für deren Nutzung im Unterricht aufstellen. Der Einsatz von KI als alleiniges Recherche- oder Lernwerkzeug sollte vermieden werden; stattdessen muss die Förderung von Medienkompetenz und Quellenkritik im Vordergrund stehen. Privatnutzer und Eltern sollten die KI-Nutzung ihrer Kinder aktiv begleiten und sich nicht auf die integrierten Filter der Plattformen verlassen. Ergänzende Jugendschutzlösungen auf Betriebssystemebene oder im Heimnetzwerk können helfen, den Zugriff auf ungeeignete Webseiten und Dienste zusätzlich abzusichern. Zudem sollten alle Beteiligten für die Risiken von Halluzinationen – also fehlerhaften KI-Antworten – sensibilisiert werden.
Die vermeintlich jugendfreundlichen Ableger großer KI-Modelle bieten derzeit keinen verlässlichen Schutzraum. Solange die Filtertechnologien und die inhaltliche Genauigkeit der Systeme nicht signifikant verbessert werden, bleibt die menschliche Aufsicht und eine kritische Distanz beim Einsatz generativer KI im Bildungsbereich unverzichtbar.
Quelle: Golem Security