Wenn junge User_innen beliebte Internetdienste nutzen, sind sie schnell Inhalten ausgesetzt, die sie beeinträchtigen. Interaktionsmöglichkeiten bringen auf Plattformen zudem das Risiko mit sich, Opfer von Mobbing oder sexueller Belästigung zu werden. Im Netz finden sich immer mehr Darstellungen sexualisierter Gewalt gegen Minderjährige. In beliebten Spielen werden so genannte Dark Patterns zur Falle für Kinder. Viele Betreiber beliebter Angebote treffen jedoch keine ausreichenden Vorsorgemaßnahmen, um Minderjährige gut zu schützen. Zu diesem Ergebnis kommt jugendschutz.net in seinem Jahresbericht 2021.

Tötungsvideos und Hassbeiträge

„Kinder und Jugendliche lieben die Kurzvideos bei TikTok und Instagram, Challenges zum Mitmachen und Funktionen wie Livestreaming. Doch Spaß und Eventcharakter haben eine Kehrseite: Es lauern Gefahren wie extremistische Hetze, Anmache oder schockierende Gewaltinhalte, die verstören und ängstigen“, sagt Stefan Glaser, Leiter von jugendschutz.net. „Wir stoßen bei unseren Recherchen immer wieder auf Fälle, in denen Tötungsvideos verbreitet werden. In beliebten Formaten wie Let’s Play-Videos werden Chats für Hassbeiträge und zur Beeinflussung mit antidemokratischen Verschwörungsideologien instrumentalisiert. Leider sind die Maßnahmen vieler Dienste zum Schutz vor solchen Gefahren nicht ausreichend“, so Glaser weiter. „Unser Bericht zeigt außerdem: Bilder und Videos von Missbrauchshandlungen an Minderjährigen werden massenhaft online geteilt und vervielfältigt. Vor allem die Verbreitung über Filehoster ist ein riesiges Problem.“

Kinder und Jugendliche stärker begleiten

Die Politik sieht Handlungsbedarf, denn viele Online Anbieter sorgen nicht ausreichend vor, um Minderjährige vor Risiken im Netz zu schützen, kritisiert Bundesjugendministerin Lisa Paus. Abhilfe soll etwa das reformierte Jugendschutzgesetz schaffen, das letztes Jahr in Kraft getreten ist. Damit werden erstmals große Online-Anbieter verpflichtet, Kinder und Jugendliche vor Interaktionsrisiken zu bewahren. Die Bundeszentrale für Kinder- und Jugendmedienschutz entwickelt dafür gemeinsam mit Wissenschaft, Fachstellen und Unternehmen verbindliche Standards, die konsequent umgesetzt werden müssen. Zusätzlich müssten Kinder und Jugendliche stärker begleitet werden und auch Eltern besser aufgeklärt werden, fordert die rheinland-pfälzische Jugendministerin Katharina Binz. Denn Kinder und Jugendliche würden in digitalen Angeboten, etwa in Spiele-Apps, durch manipulative Designs unter Druck gesetzt, Käufe zu tätigen, Werbung zu konsumieren oder private Daten preiszugeben. Diese Strategien seien oft schwer zu durchschauen. Anbieter seien zudem gefordert, bei Apps für Kinder auf solche beeinflussenden Mechanismen zu verzichten.

"Es wimmelt vor Tretminen"

Dr. Marc Jan Eumann, der Vorsitzende der Kommission für Jugendmedienschutz (KJM) betont, wie wichtig die konsequente Rechtsdurchsetzung für den Kinder- und Jugendmedienschutz ist. „Extremismus, Selbstgefährdung, Gewalt, Pornografie: All das findet sich in Social Media, in Games und auf anderen jugendaffinen Angeboten. Das Internet ist eine wunderbare Spielwiese, aber diese wimmelt vor Tretminen. Es steht viel auf dem Spiel: Es geht um den Schutz unserer Demokratie. Die KJM geht gegen Anbieter:innen vor, die keine Abhilfe schaffen und damit billigend in Kauf nehmen, Kindern und Jugendlichen zu schaden. Dies betrifft auch einschlägige Porno-Plattformen, die ihren Sitz im Ausland haben und gegen die wir erfolgreich Verfahren führen.“ Ein weiterer wichtiger Baustein zeitgemäßen Schutzes seien technische Lösungen. Noch zu selten würden moderne Techniken wie maschinelles Lernen für den Jugendschutz eingesetzt, kritisiert der Experte.

In vielen Diensten fehlt es schon am Minimum, um Kinder und Jugendliche gut zu schützen

„Wie jugendschutz.net in seinem Bericht zeigt, fehlt es in vielen Diensten schon am Minimum, um Kinder und Jugendliche gut zu schützen: Einer verlässlichen Altersprüfung. Noch zu selten werden moderne Techniken wie maschinelles Lernen für den Jugendschutz eingesetzt. Dabei sind die Potentiale enorm: So hat die KJM im Mai dieses Jahres Alterskontrollen auf Basis von biometrischer Alterserkennung positiv bewertet.“
2021 bearbeitete jugendschutz.net insgesamt 6.865 Verstoßfälle. Davon waren 58 % thematisch sexualisierter Gewalt zuzuordnen. Politischer Extremismus folgte mit 15 %. Auf Pornografie entfielen 14 %, auf Selbstgefährdung 6 %, auf Gewalt 5 % und auf Cybermobbing 2 %.

Der aktuelle Jahresbericht von jugendschutz.net steht zum Download bereit unter: