Die Zahlen sind ein Schock und ein Weckruf für alle Eltern: Die Organisation Jugendschutz.net, finanziert von Bund und Ländern, hat im vergangenen Jahr 15.099 Regelbrüche gegen Schutzbestimmungen für Minderjährige im Internet aufgedeckt. Die bittere Wahrheit dahinter: Bei den allermeisten Vorfällen handelte es sich um die schlimmsten denkbaren Verbrechen.

Bei 12.334 der Fälle ging es um Darstellungen von Kindesmissbrauch, in 1.091 Fällen um Jugendpornografie. Das geht aus dem Jahresbericht der Organisation hervor, der in Berlin präsentiert wurde. Andere Felder wie politischer Extremismus, Cybermobbing oder Gewalt spielten nur eine untergeordnete Rolle.

Immerhin ein kleiner Erfolg: In 96 Prozent der Situationen (14.520) konnte bei den Plattformen eine Löschung der illegalen Inhalte erwirkt werden. In fast 6.500 Fällen wurden obendrein direkt die Strafverfolgungsbehörden informiert.

Bundesjugendministerin: „Alarmierende Zahlen“

Bundesministerin für Bildung und Jugend, Karin Prien (CDU), findet dazu klare Worte: «Die erneut alarmierenden Zahlen zeigen, wie weit wir noch davon entfernt sind, Kindern und Jugendlichen eine sichere und unbeschwerte Teilhabe an der digitalen Welt zu ermöglichen.» Viele Plattformen würden ihrer Verantwortung noch immer nicht gerecht. Da digitale Anwendungen und KI-Systeme für junge Leute immer wichtiger werden, müssten «Sicherheit, Schutz und klare Regeln endlich mit der technologischen Entwicklung Schritt halten», so Prien.

Zwar ist die Gesamtzahl der Verstöße im Vergleich zum Vorjahr (17.630) gesunken. Doch die Aussagekraft dieser Statistik ist begrenzt. Sie ist stark von der Bereitschaft der User abhängig, Funde zu melden. «Auf Basis der jährlichen Zahlen lassen sich daher nur bedingt Aussagen zur Verschärfung oder Verbesserung von Gefahrenlagen treffen», wird im Bericht klargestellt.

Kritik an Anbietern: „Schaffen immer neue Einfallstore“

Stefan Glaser, der Leiter von Jugendschutz.net, kritisiert die Betreiber der Plattformen scharf: «Statt wirksame Schutzvorkehrungen zu treffen, schaffen die Anbieter immer neue Einfallstore und bauen ihre manipulativen Geschäftsmodelle weiter aus.»

Besonders im Sektor der Künstlichen Intelligenz (KI) sei die Entwicklung rasant. Glaser nennt als Beispiel Chat-Roboter, die mittlerweile die Rolle von emotionalen Ansprechpartnern für junge Menschen übernehmen. «Damit verbundene parasoziale Beziehungen verzerren die Realität und erschweren die Einordnung, was künstlich und was echt ist.»

Neue Gefahren durch KI: Von Fake-Freunden und Schönheitswahn

Die Fachleute warnen explizit vor sogenannten „Charakter-Bots“. Hierbei handelt es sich um KI-Gesprächspartner, die immer realistischer wirken und Beziehungen nachahmen. Die Bedrohung: Durch mangelhafte Filter könnten solche Bots sexuelle Handlungen mit Kindern beschreiben oder selbst die Rolle von Minderjährigen einnehmen, «die sexualisiert agieren».

Ein zusätzliches Risiko stellen KI-Profile in sozialen Netzwerken dar, die menschliches Agieren nachahmen, um User länger auf der jeweiligen Seite zu binden. Hinzu kommen «KI-Influencer» und «KI-Models», die mit ihren «übernatürlich schöne Körper» eine unerreichbare Perfektion als Norm darstellen und so das Selbstbild von Kindern und Jugendlichen negativ prägen.

„Skinnytok“ und Discord: Essstörungen und Hass im Visier

Besonders heimtückisch ist der „Skinnytok“-Trend auf Tiktok. Unter diesem Schlagwort werden Clips verbreitet, die Essstörungen wie Magersucht und Bulimie glorifizieren und ein extremes Dünnsein als Ideal verkaufen.

Auch die bei jungen Leuten populäre Plattform Discord rückt in den Fokus der Jugendschützer. Sie stufen diese als «Umschlagplatz für viele rechtsextreme, menschenfeindliche und gewaltverherrlichende Inhalte» ein. Dazu zählen NS-Propaganda, Hetze gegen Minderheiten und brutale Gewaltvideos. Junge Nutzer würden dort oft nebenbei mit solchen Inhalten konfrontiert, was ihre Sicht auf die Welt beeinflusst. Die Moderation sei häufig ungenügend. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.