Technischer Jugendmedienschutz

Bei dem System „IDVERSE“ der OCR Labs handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden ermöglicht. Inhalteanbieter können „IDVERSE“ mittels einer API oder einem mobilen SDK (SDK = Software Development Kit) in ihre Angebote integrieren. 

Der Nutzer lädt im ersten Schritt Fotos der Vorder- und Rückseite seines Ausweisdokuments hoch. Im Anschluss liest „IDVERSE“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Sodann erfolgt eine automatische Durchführung spezieller Sicherheits-Checks. Anschließend erstellt der Nutzer eine Live-Aufnahme seines Gesichts. Im Hintergrund wird sodann durch „IDVERSE“ eine „Lebenderkennung“ durchgeführt, die sicherstellt, dass es sich tatsächlich um eine Live-Aufnahme handelt und nicht bloß um ein Foto. Abschließend erfolgt automatisiert der biometrische Abgleich des Fotos auf dem Ausweisdokument mit der Live-Aufnahme des Gesichts der zu identifizierenden Person.

Die Authentifizierung bei jedem Nutzungsvorgang erfolgt mittels biometrischer Daten also der Gesichtserkennung des Nutzers und Vergleich mit dem im Rahmen der Identifizierung gespeicherten Referenzdatensatzes des Gesichts des Nutzers (biometrische Authentifizierung). 

Die KJM kam nach Prüfung des Konzepts „IDVERSE“ der OCR Labs zu dem Ergebnis, dass dieses bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

(KJM-Entscheidung April 2024)

Bei dem System „Incode“ der Incode Technologies Inc. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments in Verbindung mit einer Videoidentifizierung ermöglicht.
Ein Inhalteanbieter, der „Incode“ zur Identifizierung und Authentifizierung seiner Nutzer einsetzen will, kann das System als SDK (Software Development Kit) in seine App oder Webseite einbauen.
Der Nutzer hat dann die Möglichkeit, sich durch die App bzw. Browser mittels künstlicher Intelligenz und biometrischem Abgleich zu identifizieren. „Incode“ steuert dabei die zu identifizierende Person durch die Aufnahme der Bilder. Zunächst hat der Nutzer die Vorder- und Rückseite des zu prüfenden Ausweisdokuments in die Kamera zu halten.
Im Anschluss liest „Incode“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Sodann erfolgt eine automatische Durchführung spezieller Sicherheits-Checks, um Betrugsversuche zu verhindern. Dabei wird u.a. geprüft, ob physische oder digitale Manipulationen an dem Ausweisdokument bzw. der Bilder vorgenommen wurden.
Sodann hat die Person Live-Aufnahmen ihres Gesichts zu erstellen. Im Hintergrund wird sodann durch „Incode“ eine „Lebenderkennung“ durchgeführt, die sicherstellt, dass es sich tatsächlich um eine Live-Aufnahme handelt und nicht bloß um ein Foto. Abschließend erfolgt automatisiert der biometrische Abgleich des Fotos auf dem Ausweisdokument mit der Live-Aufnahme des Gesichts der zu identifizierenden Person.
Die Authentifizierung bei jedem Nutzungsvorgang erfolgt mittels biometrischer Daten, also der Gesichtserkennung des Nutzers und Vergleich mit dem im Rahmen der Identifizierung gespeicherten Referenzdatensatzes des Gesichts des Nutzers (biometrische Authentifizierung).
Die KJM stellte auf Grundlage der vorgelegten Unterlagen fest, dass das Konzept „Incode“ der Incode Technologies Inc. bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe gem. § 4 Abs. 2 S. 2 JMStV geeignet ist.

(KJM Entscheidung April 2022)

„O₂ TV“ der Telefónica Germany GmbH & Co. OH ermöglicht Abonnent*innen Schutzfunktionen, die das Wahrnehmen von nicht altersgemäßen Inhalten unterbinden sollen. Vertragskund*innen können entgeltlich das Angebot „O₂ TV“ zum Vertrag hinzubuchen. Abonnent*innen können zum Zwecke des Kinder- und Jugendschutzes unterschiedliche Nutzerprofile in ihrem Account anlegen. Ebenfalls kann eine accountweit geltende Jugendschutz-PIN in den Accounteinstellungen hinterlegt werden. Die Profile können beim erstmaligen Anlegen oder bei späterer Nutzung mit einer Jugendschutz-PIN versehen werden. Standardmäßig ist die Jugendschutz-PIN nicht aktiviert und das Startprofil ist nicht altersbeschränkt.

Bei dem System „Persona“ der Persona Identities handelt es sich um ein Tool zur Alterseinschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können. Zudem ermöglicht es eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments. Ferner ist die Identifizierung mittels des deutschen Personalausweises mit Online-Ausweisfunktion (eID-Funktion) möglich.

Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. „Persona“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern sollen. Zudem hat der Nutzer die Möglichkeit, sich mittels seines Ausweisdokuments mit order ohne Nutzung der eID-Funktion zu identifizieren. Bezüglich der eID-Funktion seines Ausweisdokuments kann der Nutzer die NFC-Schnittstelle (Near Field Communication) des Smartphones nutzen, über die dann nach Freigabe durch den Nutzer die entsprechenden Daten ausgelesen werden können.

Die Authentifizierung erfolgt mittels der Übermittlung eines PassKeys über das mobile Endgerät des Nutzers. Die Freigabe erfolgt mittels eines PINs oder anhand biometrischer Daten.

Die KJM kam nach Prüfung des Konzepts „Persona“ der Persona Identities Inc. zu dem Ergebnis, dass dieses unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung als vollständiges Konzept im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

 (KJM-Entscheidung Oktober 2024)

Bei dem System „POSTIDENT durch AutoID“ handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich von Ausweis- und biometrischen Daten verwendet. Inhalteanbieter, die „POSTIDENT durch AutoID“ zur Identifizierung nutzen möchten, haben die Möglichkeit, dieses in ihre Angebote zu integrieren. Die Einbindung mittels eines SDK (Software Development Kit) ermöglicht zudem die Integration des Identifizierungsprozesses in die App des Inhalteanbieters.

Ein Nutzer, der sich mittels „POSTIDENT durch AutoID“ identifizieren möchte, hat dazu zunächst Aufnahmen des Ausweisdokuments anzufertigen. Dabei fotografiert der Nutzer das Ausweisdokument und macht anschließend nach Anweisungen in der App vorgegebene Bewegungen für eine kurze Videoaufzeichnung seines Ausweises.. Die Aufnahmen werden vom System analysiert und teils extrahiert. Im Anschluss werden automatisiert die erforderlichen Daten des Ausweisdokuments ausgelesen und anhand diverser Sicherheitsmerkmale überprüft. Zudem erfolgt eine automatische Durchführung von weiteren Sicherheits-Checks, um Betrugsversuche zu verhindern. Dabei wird u.a. geprüft, ob physische oder digitale Manipulationen an dem Ausweisdokument bzw. der Bilder vorgenommen wurden.

In der nächsten Phase werden die biometrischen Daten des Ausweisbildes ausgelesen. Der Nutzer hat sodann ein Selfie zu erstellen, anhand dessen ein biometrischer Abgleich sowie eine Lebenderkennung (Liveness Detection) vorgenommen werden kann. Dabei erhält die Client-Anwendung vom Server Anweisungen bestimmte Blickrichtungen einzunehmen und fordert daraufhin den Endbenutzer auf diese auszuführen.

Alle Identifikationen, die über das Verfahren POSTIDENT durch AutoID durchgeführt werden, können zusätzlich (zum Beispiel zu Qualitätssicherungszwecken) durch einen menschlichen Agenten geprüft werden. Nach erfolgreicher Identifizierung werden die entsprechenden Daten sowie das Ergebnis der Prüfung an den Inhalteanbieter übermittelt.

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass es in der vorgelegten Version und bei entsprechender Umsetzung als Modul auf der Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

(KJM-Entscheidung September 2022)

Bei dem System „POSTIDENT durch AutoID“ der DHL Group handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

Es wurde im November 2023 von der KJM positiv bewertet.

SeZeBe kombiniert das Prinzip der Sendezeitbegrenzung mit den Schutzvorkehrungen eines technischen Mittels. Es wird ein Schutzmechanismus zur Verfügung gestellt, der auch von Dritten genutzt werden kann.

Mit „SeZeBe“ können Sendezeitbegrenzungen für bestimmte Altersstufen durch eine Variante der Personalausweis-Kennziffernprüfung aufgehoben werden. Dazu kommen weitere technische Schutzmaßnahmen, die eine Weitergabe von Zugangsdaten an unautorisierte Dritte verhindern sollen

(Entscheidung der KJM vom Oktober 2010)

Bei dem System „Sofort Ident+“ der Sofort GmbH handelt es sich um ein Identifizierungskonzept, in dessen Rahmen auf eine bereits erfolgte „face‐to‐face“‐Kontrolle durch eine Kombination aus Datenbank-Abfrage, Open Banking und Vornahme einer Transaktion zurückgegriffen wird.

Ein Nutzer, der sich zu identifizieren hat, entscheidet auf der Website des jeweiligen Anbieters bzw. Händlers, welches Authentifizierungsverfahren er nutzen möchte, und, welchen Betrag er auf sein Spielkonto aufladen möchte.

Nach der Auswahl von Sofort Ident+ als Verifizierungsmethode und der Angabe des auf das Nutzerkonto einzuzahlenden Betrags muss der Nutzer die Nutzungsbedingungen von Sofort Ident+ auswählen. Der Anbieter bzw. Händler übermittelt die im Rahmen der Registrierung erhobenen Nutzerdaten auf deren Grundlage sodann ein SCHUFA Identitäts Check Premium stattfindet.

In einem weiteren Verifikationsschritt wird der Nutzer aufgefordert, die Bank im Rahmen eines Optionsmenüs auszuwählen, bei der er ein Online-Banking-Konto unterhält. Der Nutzer muss sich bei seinem Online-Banking-Konto anmelden. Hierbei hat der Nutzer eine 2-Faktor-Authentifizierung auszuführen. Der genaue Anmeldeprozess hängt von der Umsetzung durch die jeweilige Bank ab.

Nach erfolgreichem Online-Banking-Login durch den Nutzer wird der im Banking-System gespeicherte Namen des Kontoinhabers an das AVS „Sofort Ident+“ übermittelt. Hiermit erfolgt ein Abgleich mit dem angegebenen Namen, den der Anbieter bzw. Händler an „Sofort Ident+“ übermittelt hat bzw. der im Rahmen des Registrierungsprozesses erhoben und SCHUFA-geprüft worden ist. Sofern der Nutzername aus dem mit der Schufa abgeglichenen Datensatz mit dem Namen des Kontoinhabers oder jedenfalls einem der Kontoinhaber identisch ist, wird der Verifikationsprozess erfolgreich bestätigt.

Sofern der Nutzer eine Einzahlung auf sein Spielerkonto vornehmen möchte, kann er nun noch die Transaktion freigeben, indem er das von der Bank geforderte Freigabeverfahren durchführt. Dieser Schritt ist optional. Der Nutzer ist nicht gezwungen, die Einzahlung durchzuführen, sondern kann das Verifizierungsverfahren auch nach dem erfolgreichen Namensabgleich abbrechen.

Die KJM kam zu dem Ergebnis, dass das Konzept „Sofort Ident+“ der Sofort GmbH bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe gem. § 4 Abs. 2 S. 2 JMStV geeignet ist.

(KJM-Entscheidung Juli 2022)

Die Kommission für Jugendmedienschutz (KJM) hat das Konzept „Yoti Age Scan“ der Yoti Ltd. als technisches Mittel positiv bewertet. Anbieter*innen von Inhalten können „Yoti Age Scan“ in ihr Angebot implementieren, um eine Alterseinschätzung ihrer Nutzer*innen zu bekommen. Mithilfe großer Datensätze von Gesichtsbildern wurde „Yoti Age Scan“ trainiert, das Alter anhand von biometrischen Daten zu beurteilen. Dazu errechnet die Software die wahrscheinliche Übereinstimmung des Alters der abgebildeten Person mit dem Alter von „gelernten“ Personen aus dem Trainingsdatensatz. Eine Vielzahl von unterschiedlichen Merkmalen fließt in die Berechnung ein. In der Praxis funktioniert das, indem Nutzer*innen in die Kamera ihres Telefons oder Computers schauen. Innerhalb von 1,5 Sekunden kommt „Yoti Age Scan“ zu einer Alterseinschätzung.

Für größtmögliche Sicherheit ist dabei zentral, dass der Schwellenwert dreiJahre höher angesetzt wird, als es der JMStV vorgibt: Um auf Inhalte zuzugreifen, die für 18-Jährige freigegeben sind, müssen Nutzer*innen daher als mindestens 23 Jahre alt erkannt werden. Bei Inhalten ab 16 sollten Nutzer*innen von „Yoti Age Scan“ als mindestens 21 eingeschätzt werden. Im Anschluss an die Alterseinschätzung wird das Bild umgehend gelöscht; Ausweisdokumente werden für die Alterseinschätzung nicht benötigt.

Bei dem System „Yoti Age Scan“ der Yoti Ltd. handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Inhalteanbieter können das Tool zur Alterseinschätzung mittels künstlicher Intelligenz in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und sicher mit einer 256-Bit-Verschlüsselung an den Server von Yoti übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes innerhalb von ca. 1,5 Sekunden eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt. Im Anschluss an die Alterseinschätzung wird das Bild sofort von den Servern gelöscht, es erfolgt lediglich die Ausgabe eines gehashten Alterstokens, welches angibt, ob die Person alt genug ist, um auf nicht jugendfreie Materialien zuzugreifen.

„Yoti Age Scan“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab.

Die KJM kam nach Prüfung des Konzepts im Mai 2022 zu dem Ergebnis, dass das System, damals unter der Bezeichnung „Yoti Age Scan“, in der vorgelegten Version, unter Berücksichtigung eines Puffers von fünf Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung, als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

Im Rahmen einer erneuten Prüfung im Jahr 2025 bewertete die KJM die verbesserte Genauigkeit des aktualisierten Algorithmus und bestätigte, dass das System – nun unter dem Namen „Yoti Facial Age Estimation“ – weiterhin die Voraussetzungen für den Einsatz zur Altersverifikation erfüllt. Aufgrund der verbesserten Genauigkeit wurde der bisherige Puffer von fünf Jahren auf drei Jahre reduziert.

Inhalteanbieter, die dieses Modul nutzen, müssen weiterhin durch geeignete Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

(KJM-Entscheidung Mai 2022, aktualisiert 2025)