Unzulässige Inhalte

Bei dem System „Age Verification“ der Ondato UAB handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels eines automatisierten Prozesses unter Abgleich biometrischer Daten ermöglicht. Inhalteanbieter können das Tool zur Alterseinschätzung mittels künstlicher Intelligenz in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können. Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und an den Server von Ondato übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt. Im Anschluss an die Alterseinschätzung wird das Bild sofort von den Servern gelöscht. Der Nutzer erhält im Anschluss Zugang zu den jeweiligen Inhalten.

„Age verification“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab. Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „Age verification“ in der vorgelegten Version, unter Berücksichtigung eines Puffers von 5 Jahren als nicht-änderbare Voreinstellung und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

 (KJM-Entscheidung Mai 2022)

Bei dem System „insic – Vollständige Identitätsprüfung mit Bankverifikation“ der Insic GmbH handelt es sich um Identifizierungskonzept, welches ein Modul zur Identifizierung stellt, das aus der Kombination drei geprüfter Komponenten besteht:

1. SCHUFA IdentitätsCheck Premium mit Q-Bit

2. SCHUFA GeburtsdatenCheck

3. finAPI GiroIdent Basis

Das Modul zur Identifizierung kann durch Inhalteanbieter flexibel in bestehende Plattformen integriert werden. Die Anbindung erfolgt entweder über eine standardisierte API-Schnittstelle oder durch die Einbindung eines HTML-Skripts in das Frontend des Anbieters.

Möchte sich ein Nutzender altersverifizieren, erstellt er zunächst einen Account auf der jeweiligen Plattform. Dabei gibt er die für das Modul zur Identifizierung erforderlichen persönlichen Daten an. Nach Absenden der Registrierung werden die angegebenen Daten vollständig mit dem SCHUFA-Datenbestand abgeglichen. 

Danach leitet das System (über den Dienstleister insic als integrativer Plattformbetreiber) den Nutzer automatisch auf eine gesicherte finAPI-Banking-Seite weiter. Dort wählt der Nutzer seine Bank aus (sofern nicht direkt durch die IBAN bestimmt) und wird zum Online Banking-Login dieser Bank geführt. Der Nutzende meldet sich nun mit seinen Bankzugangsdaten (Zugangscode/PIN) unter Nutzung der Zwei-Faktor-Authentifizierung im Online-Banking an. Dieser Schritt stellt sicher, dass tatsächlich der Kontoinhaber selbst den Vorgang autorisiert.  Nach erfolgreicher Bank-Authentifizierung ruft finAPI in Echtzeit die erforderlichen Kontodaten des Bankkontos ab, insbesondere den beim Konto hinterlegten vollständigen Namen des Kontoinhabers. Dieser Abruf erfolgt über eine sichere Schnittstelle (XS2A/Open-Banking-API) und ist vom kontoführenden Institut autorisiert. Die von der Bank zurückgemeldeten Kontoinhaber-Daten werden nun automatisch durch das insic-System mit den Nutzerdaten abgeglichen, die bei der Kontoerstellung angegeben wurden. Stimmen der vom Bankkonto bestätigte Name und die gespeicherten Benutzerangaben überein, gilt die Identität als verifiziert.

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass dieses bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

(Mai 2026)

Bei dem System „Sign in with Klarna“ der Klarna Bank AB handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels Rückgriffs auf eine bereits erfolgte Identitätsprüfung unter Einsatz unterschiedlicher Verfahren gewährleistet. Alternativ bietet es eine Identifizierung mittels einer Software durch einen Vergleich der biometrischen Daten des Ausweisdokuments und einem Lichtbild des zu Identifizierenden sowie einer automatischen Erfassung der Daten des Ausweisdokuments. Die Authentifizierung erfolgt über den „Klarna“-Account mittels 2-Faktor-Authentifizierung (2FA).

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass dieses bei entsprechender Umsetzung als vollständiges Konzept einer geschlossenen Benutzergruppe im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

Bei dem System „AgeGo“ der Age Verification Technology S.L. handelt es sich um ein Identifizierungskonzept, welches verschiedene Teilmöglichkeiten bietet. Inhaltanbieter können „AgeGO“ über ein Plug-and-Play-JavaScript-Snippet in die Website implementieren. Zudem besteht die Möglichkeit einer backend-basierten Integration, bei der alle Identifizierungen server-to-server abgewickelt werden können. 

Das System bietet verschiedene Identifizierungsmöglichkeiten an:

1. Alterseinschätzung + ID-Fallback

Der Nutzer nimmt hierbei ein Live-Selfie auf und ein Drittanbieter (Amazon Web Services) analysiert das Selfie mittels fortschrittlicher Gesichtserkennungstechnologie, um Echtheit, sowie das Alter zu ermitteln. Liegt der Durchschnittswert der geschätzten Altersspanne (z.B. 21-23 Jahre) bei 21 oder höher, so erhält der Nutzer Zugriff. Liegt der Durchschnittswert darunter, oder kann das Alter nicht eindeutig bestimmt werden, wird eine automatische Ausweichprüfung mittels Ausweisdokumenten ausgelöst. Daraufhin prüft der Drittanbieter Klippa App B.V., ob der präsentierte Ausweis einer Person gehört, welche mindestens 18 Jahre alt ist und Amazon Rekognition Face Matching führt einen Gesichtsabgleich durch. Die Verifizierung gilt als erfolgreich, wenn entweder die Selfie-Analyse ein Alter von mindestens 21 Jahren ergibt oder die Ausweiseprüfung ein Mindestalter von 18  Jahren bestätigt.

1. Digitale ID

Bei dieser Methode wir der Nutzer von AgeGO zu einer sicheren mobilen App eines Drittanbieters (Yoti-App) weitergeleitet. Dort liegt entweder schon eine Altersüberprüfung vor, oder diese muss durchgeführt werden. Mittels der „Yoti-App“ kann die Altersinformation übermittelt werden.

1. Kreditkarte

Im Rahmen dieses Prozesses wird ein Sicherheitsschritt mit Zwei-Faktor-Authentifizierung ausgelöst. Eine erfolgreiche Überprüfung liegt vor, sobald der Drittanbieter bestätigt, dass es sich um eine Kreditkarte handelt und eine Transaktion über 0€ erfolgreich war.

1. AgeGo-Anmeldung

Nach der ersten Altersprüfung haben Nutzer die Möglichkeit durch eine E-Mail-basierten Authentifizierung, durch die Anmeldung mit einem Google-Konto oder durch die Anmeldung mit einem Passkey, ein AgeGo-Konto zu erstellen. Dadurch hat der Nutzer die Möglichkeit des Altersnachweises, indem sich bei einem bestehenden und verifizierten AgeGO-Konto anzumelden wird.

Die KJM kam nach der Prüfung des Konzeptes zu dem Ergebnis, dass bei entsprechender Umsetzung die gesetzlichen Anforderungen im Hinblick auf die Identifizierung erfüllt werden, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei der als volljährig identifizierten Nutzern nach Zustellung der Zugangsdaten ein Zugang zu Inhalten freigeschalten wird und weitere Sicherheitsmaßnahmen implementiert werden.

Die KJM kam nach der Prüfung des Systems „AgeGO“ auf Basis des vorgelegten Konzeptes zu dem Ergebnis, dass dieses – unter Zugrundelegung der im AVS-Raster der KJM niedergelegten Bewertungskriterien – in der vorgelegten Version und bei entsprechender Umsetzung als Module auf der Stufe der Identifizierung im Sinner der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

(Juli 2026)

Bei dem Konzept „Ageware“ der Biometric Ventures s.r.o. handelt es sich um ein Tool zur Altersschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter der Nutzer einschätzen zu können. Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen.

Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird sodann erfasst und sicher mit einer Verschlüsselung an den Server von Biometric Ventures s.r.o. übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bilds innerhalb von Sekunden eingeschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Altersschätzung nicht benötigt. Die im Rahmen der Altersschätzung übermittelten biometrischen Daten verbleiben dabei ausschließlich auf dem Endgerät der zu identifizierenden Person.

„Ageware“ hält Vorkehrungen bereit, die Manipulation bei der Altersermittlung verhindern soll. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkenung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu täuschen. Bei Feststellung eines möglichen Manipulationsversuchs bricht die Altersermittlung ab. 

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass das Konzept Ageware“ der Biometric Ventures s.r.o bei entsprechender Umsetzung die gesetzlichen Anforderungen des § 4 Abs. 2 S. 2 JMStV im Hinblick auf die Identifizierung erfüllt, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei als volljährig identifizierten Nutzern nach Zustellung von Zugangsdaten ein Zugang zu Inhalten nach § 4 Abs. 2 S. 2 JMStV freigeschaltet wird und er zusätzliche Sicherungspflichten implementiert.

(KJM-Entscheidung November 2022)

Bei dem System „airis:ident“ handelt es sich um ein Tool zur Alterseinschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. 

Inhalteanbieter haben die Möglichkeit „airis:ident“ in ihr Angebot u. a. mittels API, SDK oder Web App einzubinden. Zur Alterseinschätzung schaut der Nutzende in die Kamera des Endgeräts. Das Bild wird erfasst und sicher mit einer Verschlüsselung an die durch „airis:ident“ genutzten Server übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes eingeschätzt. 

„airis:ident“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt zudem, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System zu täuschen. 

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „airis:ident“ der Irisnet GmbH bei entsprechender Umsetzung und unter Berücksichtigung eines Puffers von 3 Jahren als nicht-änderbare Voreinstellung als Teillösung eines AVS auf der Stufe der Identifizierung geeignet ist.

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

(März 2026)

Bei dem Konzept „AltersCheck“ des Paketdienstleisters Hermes Germany handelt es sich um ein Identifizierungskonzept, welches eine Identifizierung mittels einer „face-to-face“-Kontrolle bietet. 

Geschäftliche Versender können den „AltersCheck“ als optionalen Service für eine Sendung bei Hermes Germany buchen. Dadurch werden Sendungen ausschließlich an die auf dem Sendungslabel angegebene Person überreicht. Hierzu prüft das geschulte Zustellpersonal bei der Paketübergabe das Geburtsdatum der Empfangsperson anhand des Ausweisdokuments. 

Der Service ist für Übergaben an der Haustür sowie in Hermes PaketShops buchbar. Somit werden Annahmen durch Nachbarn, Zustellungen an Ablageorte und Vollmächte durch Dritte ausgeschlossen. Neben der „face-to-face“-Empfängeridentifikation generiert das versendende Unternehmen elektronisch verschlüsselte Avis-Daten mit allen notwendigen Angaben. 

Die KJM kam nach Prüfung des Konzepts „AltersCheck“ von Hermes Germany zu dem Ergebnis, dass dieses bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist. 

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird. 

Bei „Auto-Ident + Liveness“ der Verifeye Online SIA handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung.

Es wurde im April 2024 von der KJM positiv bewertet.

Das „Checkout Identity“  der Firma NJF Vision führt die Identifizierung mithilfe einer Software durch, die biometrische Daten aus einem Video des Gesichts der Nutzer*innen mit dem Foto auf dem Ausweisdokument vergleicht. Darüber hinaus ermöglicht das System die Echtheitsprüfung des Dokuments sowie die automatische Erfassung der darin enthaltenen Informationen.

Die KJM kam nach Prüfung dieses Konzepts zu dem Ergebnis, dass dieses bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

(Juni 2025)

Bei „ComplyCube“ der ComplyCube Ltd handelt es sich um ein Tool zur Alterseinschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren Telemedienangeboten implementieren, um so das Alter von Nutzenden einschätzen zu können. 

Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen.  Inhalteanbieter haben die Möglichkeit „ComplyCube“ in ihr Angebot u. a. mittels API, SDK oder Web App einzubinden. Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers bzw. des Endgeräts zu schauen. Das Bild wird sodann erfasst und sicher mit einer Verschlüsselung an die durch „ComplyCube“ genutzten Server übertragen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes eingeschätzt. 

„ComplyCube“ hält Vorkehrungen bereit, die Manipulationen bei der Altersermittlung verhindern solle. Das Verfahren zur Ermittlung von Gesichtern erkennt zudem, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenderkennung) oder ob versucht wird, das System zu täuschen. 

Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „Comply Cube“ der Comply Cube Gmbh bei entsprechender Umsetzung und unter Berücksichtigung eines Puffers von 3 Jahren als nicht-änderbare Voreinstellung als Teillösung eines AVS auf der Stufe der Identifizierung geeignet ist.

Inhalteanbieter, die dieses Modul nutzen, müssen durch weitere Maßnahmen sicherstellen, dass im Rahmen der Authentifizierung nur die jeweils identifizierte und altersgeprüfte Person Zugang zur geschlossenen Benutzergruppe erhält und dass die Weitergabe der Zugangsberechtigung an unautorisierte Dritte erschwert wird.

(März 2026)