KJM | 04/2024 |

Gutachten warnt: Dringender Handlungsbedarf zum Schutz von Minderjährigen vor KI-Risiken

Gefahr der Desorientierung bei Kindern und Jugendlichen / Forderung nach Gesetzesänderung

Generative KI erobert immer schneller immer mehr Lebensbereiche. Vielfach mit positiven Effekten, mitunter auch mit negativen. Dies gilt insbesondere auch für den Kinder- und Jugendmedienschutz. Aktuell besteht die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft in einer für den Anspruch von Kindern und Jugendlichen auf ein demokratisches Miteinander bedenklichen Weise befördern. Daher sei es wichtig, dass diese Risiken rechtzeitig durch Gesetzesänderungen adressiert werden. Auch dabei müsse man früher im Erzeugungsprozess ansetzen und die KI-Anbieter*innen in die Pflicht nehmen. So lauten die zentralen Ergebnisse eines neuen Gutachtens des Instituts für Europäisches Medienrecht (EMR), das die Kommission für Jugendmedienschutz (KJM) beauftragt hat.

Dr. Jörg Ukrow, geschäftsführendes Vorstandsmitglied des EMR: „KI droht zu einer Art Brandbeschleuniger zu werden. Bestehende Herausforderungen werden verschärft: Bereits jetzt werden KI-generierte Bilder zur politischen Manipulation eingesetzt. In Zukunft könnten Fake-Inhalte, die immer „echter“ aussehen, das Netz fluten und das Vertrauen in Informationen erschüttern. Durch Filterblasen droht KI die Meinungsbildung zu verengen. Machen wir uns nichts vor: KI ist nicht nur eine Herausforderung für die Meinungsbildung von Kindern und Jugendlichen, sondern auch für die Demokratie. Mit Blick auf die schnelle technologische Entwicklung ist zügiges Handeln gefragt.“

Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz: „Mit wenigen Klicks können durch generative KI Bilder oder Videos erzeugt werden, die Empörung über kontroverse Themen schüren und junge Menschen verunsichern und verwirren. Auch die durch KI kinderleichte Erstellung von schwersten Missbrauchsdarstellungen macht deutlich, dass bei den rasanten technischen Entwicklungen der Schutz von Kindern und Jugendlichen nicht auf der Strecke bleiben darf. Hier müssen wir früher ansetzen und KI-Anbieter*innen in die Verantwortung nehmen. Es darf nicht sein, dass solche Inhalte überhaupt entstehen können.“


Mit KI-Jugendschutzbeauftragten zu besserem Schutz

Um gegenzusteuern, benennt das Gutachten konkrete Vorschläge. Zentral sei, dass KI-Systeme explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufgenommen würden. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk sei es sinnvoll, Selbstkontrolleinrichtungen einzubeziehen. Mit einem unabhängigen KI-Jugendschutzbeauftragten sollte zudem eine Ansprechperson existieren, die bei Entwicklung, Training sowie Anwendung von KI-Anwendungen einbezogen ist. Und: Der JMStV, aber auch das Jugendschutzgesetz des Bundes (JuSchG) sowie der Digital Services Act (DSA) müssen dringend mit Blick auf die schnelle Entwicklung von KI regelmäßig evaluiert werden – und zwar in kürzeren Abständen als bisher.

Expert*innenaustausch zu künstlicher Intelligenz mit Selbstkontrollen

Die KJM hat die Gesetzgeberin bezüglich der Ergebnisse und Empfehlungen des Gutachtens adressiert. Außerdem lud die KJM alle anerkannten Einrichtungen der freiwilligen Selbstkontrolle am 14.02.2024 zu einem Werkstattgespräch ein. Auf Grundlage des Gutachtens tauschten sich KJM und Selbstkontrolleinrichtungen über Erfahrungen mit Generativer KI, deren Nutzungsmöglichkeiten für den Kinder- und Jugendmedienschutz und Umgang mit Gefahren aus.

Hier geht’s zum Gutachten.

Pressemitteilungen - Archiv

Pressemitteilungen 2023

Pressemitteilungen 2022

Pressemitteilungen 2021

Pressemitteilungen 2020

Pressemitteilungen 2019

Pressemitteilungen 2018

Pressemitteilungen 2017

Pressemitteilungen 2016

Pressemitteilungen 2015

Pressemitteilungen 2014

Pressemitteilungen 2013

Pressemitteilungen 2012

Pressemitteilungen 2011

Pressemitteilungen 2010

Pressemitteilungen 2009

Pressemitteilungen 2008

Pressemitteilungen 2007

Pressemitteilungen 2006

Pressemitteilungen 2005

Pressemitteilungen 2004

Pressemitteilungen 2003

Pressemitteilungen 2002

Pressemitteilungen 2001

Pressemitteilungen 2000

Pressemitteilungen 1999

Pressemitteilungen 1998

Pressemitteilungen 1997

RSS Feed