Neuer Bericht von jugendschutz.net zu digitaler Gewalt
Sexualisierte Gewalt und extremistische Hassinhalte bleiben zentrale Probleme im Netz: Im zweiten Jahr in Folge hat jugendschutz.net mehr als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Bei über 6.900 Fällen wies jugendschutz.net Anbieter und Selbstkontrollen auf Verstöße hin und forderte schnelle Beseitigung. In besonders gravierenden Fällen wie zum Beispiel sexualisierter Gewalt schaltete die Organisation Strafverfolgungsbehörden ein. Aufsichtsfälle wurden an die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) übermittelt.
KI-gestützte Anwendungen verschärfen viele Risiken: Chatbots, künstlich generierte Influencer*innen und manipulierte Bilder stellen den Jugendmedienschutz vor neue Herausforderungen. Bei Spotify und Discord waren zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen festzustellen; auf TikTok und Co. beobachtete jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen.
Quelle: jugenschutz.net