Mensch am Computer

Unzulässige Inhalte

Unzulässige Angebote dürfen in Rundfunk und Telemedien grundsätzlich nicht verbreitet werden. Allerdings gibt es eine Ausnahme.

Altersverifikationssysteme

Einige unzulässige Inhalte dürfen in Telemedien dann verbreitet werden, wenn durch geschlossene Benutzergruppen sichergestellt ist, dass Kinder und Jugendliche nicht auf sie zugreifen können. Das Schutzniveau bei diesen sogenannten „relativ unzulässigen Inhalten“ liegt also deutlich höher als bei entwicklungsbeeinträchtigenden Inhalten. Geschlossene Benutzergruppen können Anbieter durch den Einsatz von Altersverifikationssystemen herstellen.

Pornografische, bestimmte indizierte und offensichtlich schwer jugendgefährdende Inhalte dürfen im Internet nur dann verbreitet werden, wenn der Anbieter durch geschlossene Benutzergruppen gewährleistet, dass nur Erwachsene Zugriff darauf haben. Zur Sicherstellung geschlossener Benutzergruppen werden so genannte Altersverifikationssysteme (AV-Systeme) bzw. Altersprüfsysteme eingesetzt.

Die Anforderungen an solche AV-Systeme sind wesentlich höher als die Anforderungen an technische Mittel für entwicklungsbeeinträchtigende Angebote: Sie müssen gewährleisten, dass eine Volljährigkeitsprüfung über eine persönliche Identifizierung erfolgt und beim einzelnen Nutzungsvorgang nur identifizierte und altersgeprüfte Personen Zugang erhalten.

Eckpunkte

Frau hantiert mit Laptop und Smartphone

Gemäß den Eckpunkten der KJM ist Altersverifikation für geschlossene Benutzergruppen durch zwei miteinander verbundene Schritte sicherzustellen:

  1. durch eine zumindest einmalige Identifizierung (Volljährigkeitsprüfung), die grundsätzlich über persönlichen oder vorgelagerten Kontakt erfolgen muss. Voraussetzung für eine verlässliche Volljährigkeitsprüfung ist dabei die persönliche Identifizierung von natürlichen Personen inklusive Überprüfung ihres Alters. Die persönliche Identifizierung ist notwendig, damit Fälschungs- und Umgehungsrisiken möglichst vermieden werden.
  2. durch Authen­tifizierung beim einzelnen Nutzungsvorgang. Die Authentifizierung dient der Sicherstellung, dass nur die jeweils identifizierte und altersgeprüfte Person Zugang zu geschlossenen Benutzergruppen erhält, und soll die Weitergabe von Zugangsberechtigungen an unautorisierte Dritte erschweren.

Verfahren der Positivbewertung

Der JMStV enthält kein Anerkennungsverfahren für geschlossene Benutzergruppen oder AV-Systeme. Daher hat die KJM ein Verfahren der Positivbewertung entwickelt und bewertet auf Anfrage von Unternehmen oder Anbietern entsprechende Konzepte. Dies dient der Verbesserung des Jugendschutzes im Internet und ist gleichzeitig ein Service für die Anbieter für mehr Rechts- und Planungssicherheit.

Die Hauptverantwortung für die JMStV-konforme Gestaltung eines Internetangebots liegt aber beim Inhalteanbieter. Er muss sicherstellen, dass pornografische und bestimmte andere jugendgefährdende Inhalte in seinem Angebot nur für Erwachsene zugänglich sind (geschlossene Benutzergruppen). Er kann sich dabei technischer Jugendschutz-Konzepte bedienen, die die KJM bereits positiv bewertet hat. Positivbewertungen können von der KJM im Rahmen von Pressemitteilungen veröffentlicht werden.

Bewertung durch die KJM

Die KJM bewertet sowohl Konzepte für Gesamtlösungen als auch für Teillösungen (Module) für geschlossene Benutzergruppen.

Die KJM bewertet ausschließlich Konzepte. Für die aufsichtsrechtliche Beurteilung ist die Umsetzung der geschlossenen Benutzergruppen in der Praxis entscheidend.

Das AVS-Raster der KJM spezifiziert die Anforderungen der KJM. Es dient dazu, die Entscheidungsprozesse der KJM bei der Bewertung transparent zu machen und Standards zu definieren.

Datenbank Altersverifikationssysteme

  • „GBG GO“ der GB Group PLC

    November 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „GBG GO“ der GB Group PLC handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Das System kann in die eigenen Telemedien und Apps der jeweiligen Inhalteanbieter eingebunden werden.

    Zur Identifizierung zeigt der Kunde Bilder der Vorder- und Rückseite des zu prüfenden Ausweisdokuments (bei Reisepass nur die Vorderseite) im Rahmen der App oder lädt sie hoch. Im Anschluss liest „GBG GO“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Sodann erfolgt eine automatische Durchführung spezieller Sicherheits-Checks. Im Anschluss erstellt der Nutzer ein Selfie, anhand dessen ein Abgleich der biometrischen Daten mit dem Bild des Ausweisdokuments vorgenommen wird. Auch eine „Lebenderkennung“ wird durchgeführt. 

    Die KJM kam nach Prüfung des Konzepts „GBG GO“ der GB Group PLC zu dem Ergebnis, dass dieses bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung November 2023)

  • „GiroIdent Jugendschutz“ der finAPI GmbH

    April 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem Konzept „GiroIdent Jugendschutz“ der finAPI GmbH handelt es sich um Identifizierungskonzept, welches eine Identifizierung mittels einer bereits erfolgten „face-to-face“-Kontrolle bietet. Telemedienanbieter können sich „GiroIdent Jugendschutz“ bedienen, um so ihren Nutzern die Identifizierung mittels Abgleich im Bereich Open Banking zu ermöglichen. Der Telemedienanbieter erhält dabei keinen Zugang zu den Kontodaten des Nutzers. Nach Abschluss der Identifizierung erhält dieser lediglich eine Bestätigung über die (nicht) erfolgreiche Verifikation.

    Ein Nutzer, der sich auf einem Telemedienangebot als volljährig identifizieren möchte, wird von diesem Angebot auf eine gesicherte Seite der finAPI GmbH weitergeleitet. Dort hat er sich mittels seiner Zugangsdaten in seinen Online-Banking-Account einzuwählen. finAPI überprüft sodann, ob der Login in den Online-Banking-Account inklusive der verpflichtenden Zwei-Faktor-Authentifizierung erfolgreich war und ob der im Konto gespeicherte Name mit den angegeben Daten übereinstimmt.

    Im Anschluss erfolgt zusätzlich ein Datenabgleich bei der SCHUFA mittels des bereits von der KJM positiv bewerteten Verfahrens „SCHUFA-Identitätscheck Jugendschutz“. Das Ergebnis des Identifizierungsprozesses wird an den Telemedienanbieter übermittelt.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass das Konzept „GiroIdent Jugendschutz“der finAPI GmbH bei entsprechender Umsetzung die gesetzlichen Anforderungen des § 4 Abs. 2 S. 2 JMStV im Hinblick auf die Identifizierung erfüllt, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei als volljährig identifizierten Nutzern nach Zustellung von Zugangsdaten ein Zugang zu Inhalten nach § 4 Abs. 2 S. 2 JMStV freigeschaltet wird und er zusätzliche Sicherungspflichten implementiert.

    (KJM-Entscheidung April 2022)

  • „IDcheck.io“ der IDnow GmbH

    November 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „IDcheck.io“ der IDnow GmbH" handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

    Es wurde im November 2023 von der KJm positiv bewertet.

  • „IDnow eID“ der IDnow GmbH

    Mai 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „IDnow eID“ der IDnow GmbH handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels des deutschen Personalausweises mit Online-Ausweisfunktion, des deutschen elektronischen Aufenthaltstitels mit Online-Ausweisfunktion im Scheckkartenformat und - optional - der EU/EWR-Bürgerkarte mit Online-Ausweisfunktion (alle zusammen im Folgenden „eID“) ermöglicht.

    Mit „IDnow eID“ hat ein Nutzer die Möglichkeit, sich mittels des deutschen Personalausweises mit Online-Ausweisfunktion, des deutschen elektronischen Aufenthaltstitels mit Online-Ausweisfunktion im Scheckkartenformat und - optional - der EU/EWR-Bürgerkarte mit Online-Ausweisfunktion zu identifizieren.

    Neben dem Ausweisdokument benötigt der Nutzer ein Smartphone mit NFC-Schnittstelle (Near Field Communication), über die die Daten des Ausweisdokuments ausgelesen werden können. Um den Identitätsnachweis durchzuführen, muss der Nutzer den Anweisungen in der App folgen und seinen elektronischen Personalausweis an sein mobiles Endgerät halten. Damit die Identifikationsdaten übertragen werden können und die behördliche Berechtigung zum Auslesen des Chips überprüft werden kann, muss der Nutzer nach Aufforderung seine 6-stellige persönliche PIN eingeben.

    Mit dem erfolgreichen Auslesen der personenspezifischen Daten des eID-Dokuments ist der Identifikationsprozess abgeschlossen.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „IDnow eID“ in der vorgelegten Version und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung Mai 2022)

  • „IDVerse IDV Platform" der OCR Labs

    April 2024 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Bei dem System „IDVERSE“ der OCR Labs handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden ermöglicht. Inhalteanbieter können „IDVERSE“ mittels einer API oder einem mobilen SDK (SDK = Software Development Kit) in ihre Angebote integrieren. 

    Der Nutzer lädt im ersten Schritt Fotos der Vorder- und Rückseite seines Ausweisdokuments hoch. Im Anschluss liest „IDVERSE“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Sodann erfolgt eine automatische Durchführung spezieller Sicherheits-Checks. Anschließend erstellt der Nutzer eine Live-Aufnahme seines Gesichts. Im Hintergrund wird sodann durch „IDVERSE“ eine „Lebenderkennung“ durchgeführt, die sicherstellt, dass es sich tatsächlich um eine Live-Aufnahme handelt und nicht bloß um ein Foto. Abschließend erfolgt automatisiert der biometrische Abgleich des Fotos auf dem Ausweisdokument mit der Live-Aufnahme des Gesichts der zu identifizierenden Person.

    Die Authentifizierung bei jedem Nutzungsvorgang erfolgt mittels biometrischer Daten also der Gesichtserkennung des Nutzers und Vergleich mit dem im Rahmen der Identifizierung gespeicherten Referenzdatensatzes des Gesichts des Nutzers (biometrische Authentifizierung). 

    Die KJM kam nach Prüfung des Konzepts „IDVERSE“ der OCR Labs zu dem Ergebnis, dass dieses bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung April 2024)

  • „Incode“ der Incode Technologies Inc.

    April 2022 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Bei dem System „Incode“ der Incode Technologies Inc. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments in Verbindung mit einer Videoidentifizierung ermöglicht.
    Ein Inhalteanbieter, der „Incode“ zur Identifizierung und Authentifizierung seiner Nutzer einsetzen will, kann das System als SDK (Software Development Kit) in seine App oder Webseite einbauen.
    Der Nutzer hat dann die Möglichkeit, sich durch die App bzw. Browser mittels künstlicher Intelligenz und biometrischem Abgleich zu identifizieren. „Incode“ steuert dabei die zu identifizierende Person durch die Aufnahme der Bilder. Zunächst hat der Nutzer die Vorder- und Rückseite des zu prüfenden Ausweisdokuments in die Kamera zu halten.
    Im Anschluss liest „Incode“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Sodann erfolgt eine automatische Durchführung spezieller Sicherheits-Checks, um Betrugsversuche zu verhindern. Dabei wird u.a. geprüft, ob physische oder digitale Manipulationen an dem Ausweisdokument bzw. der Bilder vorgenommen wurden.
    Sodann hat die Person Live-Aufnahmen ihres Gesichts zu erstellen. Im Hintergrund wird sodann durch „Incode“ eine „Lebenderkennung“ durchgeführt, die sicherstellt, dass es sich tatsächlich um eine Live-Aufnahme handelt und nicht bloß um ein Foto. Abschließend erfolgt automatisiert der biometrische Abgleich des Fotos auf dem Ausweisdokument mit der Live-Aufnahme des Gesichts der zu identifizierenden Person.
    Die Authentifizierung bei jedem Nutzungsvorgang erfolgt mittels biometrischer Daten, also der Gesichtserkennung des Nutzers und Vergleich mit dem im Rahmen der Identifizierung gespeicherten Referenzdatensatzes des Gesichts des Nutzers (biometrische Authentifizierung).
    Die KJM stellte auf Grundlage der vorgelegten Unterlagen fest, dass das Konzept „Incode“ der Incode Technologies Inc. bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe gem. § 4 Abs. 2 S. 2 JMStV geeignet ist.

    (KJM Entscheidung April 2022)

  • „KYCAID“ der Compligate Ltd.

    Juli 2025

    Bei dem System „KYCAID“ der Compligate Ltd. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments ermöglicht.

    Inhalteanbieter können „KYCAID“ in ihre Angebote z.B. mittels einer API, Mobile SKDs (Software Development Kits) integrieren.

    Die KJM kam nach Prüfung dieses Konzepts zu dem Ergebnis, dass dieses bei entsprechender Umsetzung somit als Teillösung auf Stufe der Authentifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

    (Juli 2025)

  • „Persona“ der Persona Identities

    Oktober 2024 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Bei dem System „Persona“ der Persona Identities handelt es sich um ein Tool zur Alterseinschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können. Zudem ermöglicht es eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments. Ferner ist die Identifizierung mittels des deutschen Personalausweises mit Online-Ausweisfunktion (eID-Funktion) möglich.

    Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. „Persona“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern sollen. Zudem hat der Nutzer die Möglichkeit, sich mittels seines Ausweisdokuments mit order ohne Nutzung der eID-Funktion zu identifizieren. Bezüglich der eID-Funktion seines Ausweisdokuments kann der Nutzer die NFC-Schnittstelle (Near Field Communication) des Smartphones nutzen, über die dann nach Freigabe durch den Nutzer die entsprechenden Daten ausgelesen werden können.

    Die Authentifizierung erfolgt mittels der Übermittlung eines PassKeys über das mobile Endgerät des Nutzers. Die Freigabe erfolgt mittels eines PINs oder anhand biometrischer Daten.

    Die KJM kam nach Prüfung des Konzepts „Persona“ der Persona Identities Inc. zu dem Ergebnis, dass dieses unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung als vollständiges Konzept im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

     (KJM-Entscheidung Oktober 2024)

  • „POSTIDENT durch AutoID“

    September 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „POSTIDENT durch AutoID“ handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich von Ausweis- und biometrischen Daten verwendet. Inhalteanbieter, die „POSTIDENT durch AutoID“ zur Identifizierung nutzen möchten, haben die Möglichkeit, dieses in ihre Angebote zu integrieren. Die Einbindung mittels eines SDK (Software Development Kit) ermöglicht zudem die Integration des Identifizierungsprozesses in die App des Inhalteanbieters.

    Ein Nutzer, der sich mittels „POSTIDENT durch AutoID“ identifizieren möchte, hat dazu zunächst Aufnahmen des Ausweisdokuments anzufertigen. Dabei fotografiert der Nutzer das Ausweisdokument und macht anschließend nach Anweisungen in der App vorgegebene Bewegungen für eine kurze Videoaufzeichnung seines Ausweises.. Die Aufnahmen werden vom System analysiert und teils extrahiert. Im Anschluss werden automatisiert die erforderlichen Daten des Ausweisdokuments ausgelesen und anhand diverser Sicherheitsmerkmale überprüft. Zudem erfolgt eine automatische Durchführung von weiteren Sicherheits-Checks, um Betrugsversuche zu verhindern. Dabei wird u.a. geprüft, ob physische oder digitale Manipulationen an dem Ausweisdokument bzw. der Bilder vorgenommen wurden.

    In der nächsten Phase werden die biometrischen Daten des Ausweisbildes ausgelesen. Der Nutzer hat sodann ein Selfie zu erstellen, anhand dessen ein biometrischer Abgleich sowie eine Lebenderkennung (Liveness Detection) vorgenommen werden kann. Dabei erhält die Client-Anwendung vom Server Anweisungen bestimmte Blickrichtungen einzunehmen und fordert daraufhin den Endbenutzer auf diese auszuführen.

    Alle Identifikationen, die über das Verfahren POSTIDENT durch AutoID durchgeführt werden, können zusätzlich (zum Beispiel zu Qualitätssicherungszwecken) durch einen menschlichen Agenten geprüft werden. Nach erfolgreicher Identifizierung werden die entsprechenden Daten sowie das Ergebnis der Prüfung an den Inhalteanbieter übermittelt.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass es in der vorgelegten Version und bei entsprechender Umsetzung als Modul auf der Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung September 2022)

  • „POSTIDENT durch AutoID“ der DHL Group (Modul)

    November 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „POSTIDENT durch AutoID“ der DHL Group handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

    Es wurde im November 2023 von der KJM positiv bewertet.