KJM im Dialog 2024: Altersprüfung als Schlüssel für ein sicheres Netz

Rede Dr. Marc Jan Eumann, Vorsitzender der KJM

„Aus Sicht des Kinder-und Jugendmedienschutz ist es gut, dass die EU wirkmächtige Instrumente in den Händen hält. Dabei sollten wir aber nicht vergessen, dass die KOM nur agieren kann, wenn sie die Unterstützung von ihren Mitgliedstaaten erhält. Die EU-Kommission hat keinen Fall, wenn sie nicht auf eine Faktenlage zurückgreifen kann, die aus den Zivilgesellschaften der Mitgliedstaaten und durch deren Regulierungsbehörden geschaffen wird.

Die KI-Verordnung der EU entfaltet im Übrigen ebenso wenig eine Sperrwirkung für Anstrengungen der Länder und Landesmedienanstalten um einen effektiven Kinder- und Jugendmedienschutz wie der Digital Services Act der EU. Die Regelungen zum Kinder- und Jugendmedienschutz im AI Act sind hinreichend vage, um durch die Mitgliedstaaten nicht nur ausgefüllt werden zu können, sondern im Blick auf verfassungsrechtliche Schutzpflichten gegenüber Minderjährigen auch ausgefüllt werden zu müssen. Dies unter Umständen auch streitig gegenüber der EU-Kommission vorzutragen und einzufordern wird eine der spannenden Herausforderungen für die Wahrung des Leitbildes einer bürgernahen, gemeinwohlorientierten und grundwertegeprägten Regulierung in der neuen Amtszeit von Europäischem Parlament und EU-Kommission sein.

Auch für einen effektiven Kinder- und Jugendmedienschutz eröffnet KI neue Möglichkeiten – nicht zuletzt auch bei der Weiterentwicklung von Altersverifikations- zu Alterseinschätzungsansätzen als Instrumenten technischen Kinder- und Jugendmedienschutzes. Die Landesmedienanstalten nutzen KI schon heute, um mehr Inhalte im Netz ausfindig zu machen und zu verfolgen. Mit KIVI haben die LMA ein effektives Tool, um eine große Menge an Inhalten zu monitoren und an die Plattformen zu melden. Viele Inhalte werden bereits auf diesem Wege gelöscht, nicht immer ist ein Verwaltungsverfahren notwendig. Zudem wird KI im Rahmen von Age Estimation Verfahren genutzt, um das Alter einer Person datensparsam festzustellen. KI-Tools im Bereich der Altersprüfung werden in Zukunft hoffentlich dafür sorgen, dass Kinder und Jugendliche immer sicherer im Netz unterwegs sein können, da die großen Plattformen sie dann hoffentlich alle nutzen.

Der Einsatz von KI bringt – das klingt schon wie eine Binse, auch wenn wir erst am Anfang stehen - Veränderungen auch für einen effektiven Kinder- und Jugendmedienschutz mit sich. Mit wenigen Klicks können durch generative KI Bilder oder Videos erzeugt werden, die Empörung über kontroverse Themen schüren und junge Menschen verunsichern und verwirren. Auch die durch KI kinderleichte Erstellung von schwersten Missbrauchsdarstellungen macht deutlich, dass bei den rasanten technischen Entwicklungen der Schutz von Kindern und Jugendlichen nicht auf der Strecke bleiben darf. Jedes noch so harmlose Foto auf Social Media kann am Ende dazu genutzt werden, um  Deepfakes anzufertigen. Dabei wird auch nicht vor Bildern von Kindern Halt gemacht. Deepfake-Pornografie ist ein zunehmendes Phänomen. Deswegen wiederhole ich den dringenden Appell meiner Kollegin Conni Holsten: Stellen Sie NIE ein unverpixeltes Gesicht ihres Kindes ins Netz. Unsere Gesellschaft muss ein Störgefühl entwickeln, wenn es unverpixelte Bilder von Kindern im Netz begegnen.

Unbestritten: Die Erziehenden tragen eine große Verantwortung. Hier müssen sie vor allem durch die Medienkompetenzarbeit der Medienanstalten unterstützt und begleitet werden. Auch die Gesetzgeberinnen, vor allem die Länder, müssen und werden ihrer Verantwortung gerecht werden. Das gilt nicht für die Anbieter*innen. Sinnvolle Maßnahmen laufen vielfach ins Leere, weil kein AVS implementiert ist. Der Ruf nach Regulierung, insbesondere auf europäischer Ebene, ist hier allzu wohlfeil. Mit großer Reichweite geht große Verantwortung einher. Nicht irgendwann, sondern jetzt.

Die besten materiell-rechtlichen Regelungen sind im Übrigen praktisch ohne Wert, wenn sie nicht effektiv durchgesetzt werden können. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk ist es sinnvoll, Selbstkontrolleinrichtungen im Rahmen eines Systems regulierter Selbstregulierung einzubeziehen. Kurzum: Die KJM ist unverzichtbar, wenn es darum geht, Kinder und Jugendliche – auf der Grundlage des JMSTV – zu schützen."