KI verschärft Risiken für Kinder und Jugendliche im Netz

Das Gefährdungspotenzial für Kinder und Jugendliche im Netz wächst durch KI, während die Altersprüfung und Meldesysteme der Anbieter unzureichend sind. Das zeigt der neue Jahresbericht von jugendschutz.net. Aktuell macht es generative KI immer schwerer, Realität von Fälschung zu unterscheiden und verstärkt Risiken wie sexualisierte Gewalt, Mobbing und Extremismus. 2023 bearbeitete jugendschutz.net 7.645 Verstoßfälle. Davon sind zwei Drittel sexualisierter Gewalt zuzuordnen. Bei 12 Prozent handelt es sich um Sex/Pornografie, bei 11 Prozent um politischen Extremismus. Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing. Bundesjugendministerin Lisa Paus: „Mit dem Digital Services Act haben wir uns in Europa ein starkes Werkzeug gegeben: Anbieter von Online-Plattformen sind verpflichtet den Zugang Minderjähriger zu ungeeigneten Inhalten zu verhindern und für ein hohes Maß an Privatsphäre und Sicherheit innerhalb ihres Dienstes zu sorgen. Diese Regeln müssen jetzt konsequent umgesetzt werden.“

Quelle: jugendschutz.net