Mensch am Computer

Unzulässige Inhalte

Unzulässige Angebote dürfen in Rundfunk und Telemedien grundsätzlich nicht verbreitet werden. Allerdings gibt es eine Ausnahme.

Altersverifikationssysteme

Einige unzulässige Inhalte dürfen in Telemedien dann verbreitet werden, wenn durch geschlossene Benutzergruppen sichergestellt ist, dass Kinder und Jugendliche nicht auf sie zugreifen können. Das Schutzniveau bei diesen sogenannten „relativ unzulässigen Inhalten“ liegt also deutlich höher als bei entwicklungsbeeinträchtigenden Inhalten. Geschlossene Benutzergruppen können Anbieter durch den Einsatz von Altersverifikationssystemen herstellen.

Pornografische, bestimmte indizierte und offensichtlich schwer jugendgefährdende Inhalte dürfen im Internet nur dann verbreitet werden, wenn der Anbieter durch geschlossene Benutzergruppen gewährleistet, dass nur Erwachsene Zugriff darauf haben. Zur Sicherstellung geschlossener Benutzergruppen werden so genannte Altersverifikationssysteme (AV-Systeme) bzw. Altersprüfsysteme eingesetzt.

Die Anforderungen an solche AV-Systeme sind wesentlich höher als die Anforderungen an technische Mittel für entwicklungsbeeinträchtigende Angebote: Sie müssen gewährleisten, dass eine Volljährigkeitsprüfung über eine persönliche Identifizierung erfolgt und beim einzelnen Nutzungsvorgang nur identifizierte und altersgeprüfte Personen Zugang erhalten.

Eckpunkte

Frau hantiert mit Laptop und Smartphone

Gemäß den Eckpunkten der KJM ist Altersverifikation für geschlossene Benutzergruppen durch zwei miteinander verbundene Schritte sicherzustellen:

  1. durch eine zumindest einmalige Identifizierung (Volljährigkeitsprüfung), die grundsätzlich über persönlichen oder vorgelagerten Kontakt erfolgen muss. Voraussetzung für eine verlässliche Volljährigkeitsprüfung ist dabei die persönliche Identifizierung von natürlichen Personen inklusive Überprüfung ihres Alters. Die persönliche Identifizierung ist notwendig, damit Fälschungs- und Umgehungsrisiken möglichst vermieden werden.
  2. durch Authen­tifizierung beim einzelnen Nutzungsvorgang. Die Authentifizierung dient der Sicherstellung, dass nur die jeweils identifizierte und altersgeprüfte Person Zugang zu geschlossenen Benutzergruppen erhält, und soll die Weitergabe von Zugangsberechtigungen an unautorisierte Dritte erschweren.

Details dazu entnehmen Sie bitte den Kriterien zur Bewertung von Konzepten für Altersverifikationssysteme (AVS-Raster).

Verfahren der Positivbewertung

Der JMStV enthält kein Anerkennungsverfahren für geschlossene Benutzergruppen oder AV-Systeme. Daher hat die KJM ein Verfahren der Positivbewertung entwickelt und bewertet auf Anfrage von Unternehmen oder Anbietern entsprechende Konzepte. Dies dient der Verbesserung des Jugendschutzes im Internet und ist gleichzeitig ein Service für die Anbieter für mehr Rechts- und Planungssicherheit.

Die Hauptverantwortung für die JMStV-konforme Gestaltung eines Internetangebots liegt aber beim Inhalteanbieter. Er muss sicherstellen, dass pornografische und bestimmte andere jugendgefährdende Inhalte in seinem Angebot nur für Erwachsene zugänglich sind (geschlossene Benutzergruppen). Er kann sich dabei technischer Jugendschutz-Konzepte bedienen, die die KJM bereits positiv bewertet hat. Positivbewertungen können von der KJM im Rahmen von Pressemitteilungen veröffentlicht werden.

Bewertung durch die KJM

Die KJM bewertet sowohl Konzepte für Gesamtlösungen als auch für Teillösungen (Module) für geschlossene Benutzergruppen.

Die KJM bewertet ausschließlich Konzepte. Für die aufsichtsrechtliche Beurteilung ist die Umsetzung der geschlossenen Benutzergruppen in der Praxis entscheidend.

Das AVS-Raster der KJM spezifiziert die Anforderungen der KJM. Es dient dazu, die Entscheidungsprozesse der KJM bei der Bewertung transparent zu machen und Standards zu definieren.

Datenbank Altersverifikationssysteme

  • "Age Verification" der Ondato UAB

    Mai 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „Age Verification“ der Ondato UAB handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Inhalteanbieter können das Tool zur Alterseinschätzung mittels künstlicher Intelligenz in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

    Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können. Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und an den Server von Ondato übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt. Im Anschluss an die Alterseinschätzung wird das Bild sofort von den Servern gelöscht. Der Nutzer erhält im Anschluss Zugang zu den jeweiligen Inhalten.

    „Age verification“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab. Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „Age verification“ in der vorgelegten Version, unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

     (KJM-Entscheidung Mai 2022)

  • "Yoti Age Scan" der Yoti Ltd.

    Mai 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „Yoti Age Scan“ der Yoti Ltd. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Inhalteanbieter können das Tool zur Alterseinschätzung mittels künstlicher Intelligenz in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

    Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und sicher mit einer 256-Bit-Verschlüsselung an den Server von Yoti übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes innerhalb von ca. 1,5 Sekunden eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt. Im Anschluss an die Alterseinschätzung wird das Bild sofort von den Servern gelöscht, es erfolgt lediglich die Ausgabe eines gehashten Alterstokens, welches angibt, ob die Person alt genug ist, um auf nicht jugendfreie Materialien zuzugreifen.

    „Yoti Age Scan“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „Yoti Age Scan“ in der vorgelegten Version, unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

     (KJM-Entscheidung Mai 2022)

  • „Ageware“ der Biometric Ventures s.r.o.

    November 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem Konzept „Ageware“ der Biometric Ventures s.r.o. handelt es sich um ein Tool zur Altersschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter der Nutzer einschätzen zu können. Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen.

    Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und sicher mit einer Verschlüsselung an den Server von Biometric Ventures s.r.o. übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bilds innerhalb von Sekunden eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Altersschätzung nicht benötigt. Die im Rahmen der Altersschätzung übermittelten biometrischen Daten verbleiben dabei ausschließlich auf dem Endgerät der zu identifizierenden Person.

    „Ageware“ hält Vorkehrungen bereit, die Manipulation bei der Altersermittlung verhindern soll. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkenung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab. 

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass das Konzept Ageware“ der Biometric Ventures s.r.o bei entsprechender Umsetzung die gesetzlichen Anforderungen des § 4 Abs. 2 S. 2 JMStV im Hinblick auf die Identifizierung erfüllt, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei als volljährig identifizierten Nutzern nach Zustellung von Zugangsdaten ein Zugang zu Inhalten nach § 4 Abs. 2 S. 2 JMStV freigeschaltet wird und er zusätzliche Sicherungspflichten implementiert.

    (KJM-Entscheidung November 2022)

  • „Auto-Ident + Liveness“ der Verifeye Online SIA

    April 2024 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei „Auto-Ident + Liveness“ der Verifeye Online SIA handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

    Es wurde im April 2024 von der KJM positiv bewertet.

  • „facial age estimation“ der KYC AVC UK Ltd.

    Mai 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei „facial age estimation“ der KYC AVC UK Ltd. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

    Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und an den Server der KYC AVC UK Ltd. übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes eingeschätzt.

    Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt. Im Anschluss an die Alterseinschätzung wird das Bild sofort von den Servern gelöscht. Der Nutzer erhält im Anschluss Zugang zu den jeweiligen Inhalten. „facial age estimation“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „facial age estimation“ in der vorgelegten Version, unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

    (KJM Entscheidung Mai 2022)

  • „GBG GO“ der GB Group PLC

    November 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „GBG GO“ der GB Group PLC handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

    Es wurde im November 2023 von der KJM positiv bewertet.

  • „GiroIdent Jugendschutz“ der finAPI GmbH

    April 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem Konzept „GiroIdent Jugendschutz“ der finAPI GmbH handelt es sich um Identifizierungskonzept, welches eine Identifizierung mittels einer bereits erfolgten „face-to-face“-Kontrolle bietet. Telemedienanbieter können sich „GiroIdent Jugendschutz“ bedienen, um so ihren Nutzern die Identifizierung mittels Abgleich im Bereich Open Banking zu ermöglichen. Der Telemedienanbieter erhält dabei keinen Zugang zu den Kontodaten des Nutzers. Nach Abschluss der Identifizierung erhält dieser lediglich eine Bestätigung über die (nicht) erfolgreiche Verifikation.

    Ein Nutzer, der sich auf einem Telemedienangebot als volljährig identifizieren möchte, wird von diesem Angebot auf eine gesicherte Seite der finAPI GmbH weitergeleitet. Dort hat er sich mittels seiner Zugangsdaten in seinen Online-Banking-Account einzuwählen. finAPI überprüft sodann, ob der Login in den Online-Banking-Account inklusive der verpflichtenden Zwei-Faktor-Authentifizierung erfolgreich war und ob der im Konto gespeicherte Name mit den angegeben Daten übereinstimmt.

    Im Anschluss erfolgt zusätzlich ein Datenabgleich bei der SCHUFA mittels des bereits von der KJM positiv bewerteten Verfahrens „SCHUFA-Identitätscheck Jugendschutz“. Das Ergebnis des Identifizierungsprozesses wird an den Telemedienanbieter übermittelt.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass das Konzept „GiroIdent Jugendschutz“der finAPI GmbH bei entsprechender Umsetzung die gesetzlichen Anforderungen des § 4 Abs. 2 S. 2 JMStV im Hinblick auf die Identifizierung erfüllt, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei als volljährig identifizierten Nutzern nach Zustellung von Zugangsdaten ein Zugang zu Inhalten nach § 4 Abs. 2 S. 2 JMStV freigeschaltet wird und er zusätzliche Sicherungspflichten implementiert.

    (KJM-Entscheidung April 2022)

  • „IDcheck.io“ der IDnow GmbH

    November 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „IDcheck.io“ der IDnow GmbH" handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

    Es wurde im November 2023 von der KJm positiv bewertet.

  • „IDnow eID“ der IDnow GmbH

    Mai 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „IDnow eID“ der IDnow GmbH handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels des deutschen Personalausweises mit Online-Ausweisfunktion, des deutschen elektronischen Aufenthaltstitels mit Online-Ausweisfunktion im Scheckkartenformat und - optional - der EU/EWR-Bürgerkarte mit Online-Ausweisfunktion (alle zusammen im Folgenden „eID“) ermöglicht.

    Mit „IDnow eID“ hat ein Nutzer die Möglichkeit, sich mittels des deutschen Personalausweises mit Online-Ausweisfunktion, des deutschen elektronischen Aufenthaltstitels mit Online-Ausweisfunktion im Scheckkartenformat und - optional - der EU/EWR-Bürgerkarte mit Online-Ausweisfunktion zu identifizieren.

    Neben dem Ausweisdokument benötigt der Nutzer ein Smartphone mit NFC-Schnittstelle (Near Field Communication), über die die Daten des Ausweisdokuments ausgelesen werden können. Um den Identitätsnachweis durchzuführen, muss der Nutzer den Anweisungen in der App folgen und seinen elektronischen Personalausweis an sein mobiles Endgerät halten. Damit die Identifikationsdaten übertragen werden können und die behördliche Berechtigung zum Auslesen des Chips überprüft werden kann, muss der Nutzer nach Aufforderung seine 6-stellige persönliche PIN eingeben.

    Mit dem erfolgreichen Auslesen der personenspezifischen Daten des eID-Dokuments ist der Identifikationsprozess abgeschlossen.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „IDnow eID“ in der vorgelegten Version und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung Mai 2022)

  • „IDVerse IDV Platform" der OCR Labs

    April 2024 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Bei dem System „„IDVerse IDV Platform"“ der OCR Labs handelt es sich um ein vollständiges AVS-Konzept im Sinne der KJM Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV).

    Es wurde im Mai 2024 von der KJM positiv bewertet.