TikTok sperrt Beauty-Filter für Minderjährige

Keine per KI aufgepumpten Lippen und vergrößerten Augen für alle unter 18 Jahren: TikTok hat Ende November eine Reihe neuer Maßnahmen für den Schutz minderjähriger Nutzer*innen angekündigt. Zum einen will das Unternehmen nach eigenen Angaben eine neue Technik auf der Basis von maschinellem Lernen (einem Teilbereich der künstlichen Intelligenz) testen, um Accounts von Unter-13-Jährigen automatisch erkennen und blockieren zu können. Zum anderen werden Beauty-Filter, die Gesichtsmerkmale mithilfe von KI so verändern, dass nicht mehr offensichtlich ist, wie die Person wirklich aussieht, nur noch Volljährigen zur Verfügung gestellt. Die offizielle Sprachregelung von TikTok: »Wir schränken die Verwendung einiger Effekte, die sich auf das Aussehen beziehen, für Jugendliche unter 18 Jahren ein.«

Die Effekte der Schönheitsfilter werden von manchen Expertinnen und Experten kritisch gesehen. So legte bereits im Jahr 2019 eine Studie nahe, dass die Nutzung von Gesichtsfiltern mit einer höheren Akzeptanz für Schönheitsoperationen sowie einem geringeren Selbstwertgefühl einhergeht. Wie effektiv die Blockade wirkt, wird davon abhängen, wie zuverlässig TikTok die Accounts von Minderjährigen erkennt. Einen konkreten Anlass für die Maßnahmen nennt TikTok in seiner Mitteilung nicht. Als »sehr große Plattform« unterliegt TikTok aber besonderen Anforderungen des Digitale-Dienste-Gesetzes der EU. Dazu gehört unter anderem die Pflicht, regelmäßig mögliche Risiken für Nutzerinnen und Nutzer zu analysieren und Maßnahmen zur Risikominderung zu ergreifen.

Quelle: Spiegel