Mensch am Computer

Unzulässige Inhalte

Unzulässige Angebote dürfen in Rundfunk und Telemedien grundsätzlich nicht verbreitet werden. Allerdings gibt es eine Ausnahme.

Altersverifikationssysteme

Einige unzulässige Inhalte dürfen in Telemedien dann verbreitet werden, wenn durch geschlossene Benutzergruppen sichergestellt ist, dass Kinder und Jugendliche nicht auf sie zugreifen können. Das Schutzniveau bei diesen sogenannten „relativ unzulässigen Inhalten“ liegt also deutlich höher als bei entwicklungsbeeinträchtigenden Inhalten. Geschlossene Benutzergruppen können Anbieter durch den Einsatz von Altersverifikationssystemen herstellen.

Pornografische, bestimmte indizierte und offensichtlich schwer jugendgefährdende Inhalte dürfen im Internet nur dann verbreitet werden, wenn der Anbieter durch geschlossene Benutzergruppen gewährleistet, dass nur Erwachsene Zugriff darauf haben. Zur Sicherstellung geschlossener Benutzergruppen werden so genannte Altersverifikationssysteme (AV-Systeme) bzw. Altersprüfsysteme eingesetzt.

Die Anforderungen an solche AV-Systeme sind wesentlich höher als die Anforderungen an technische Mittel für entwicklungsbeeinträchtigende Angebote: Sie müssen gewährleisten, dass eine Volljährigkeitsprüfung über eine persönliche Identifizierung erfolgt und beim einzelnen Nutzungsvorgang nur identifizierte und altersgeprüfte Personen Zugang erhalten.

Eckpunkte

Frau hantiert mit Laptop und Smartphone

Gemäß den Eckpunkten der KJM ist Altersverifikation für geschlossene Benutzergruppen durch zwei miteinander verbundene Schritte sicherzustellen:

  1. durch eine zumindest einmalige Identifizierung (Volljährigkeitsprüfung), die grundsätzlich über persönlichen oder vorgelagerten Kontakt erfolgen muss. Voraussetzung für eine verlässliche Volljährigkeitsprüfung ist dabei die persönliche Identifizierung von natürlichen Personen inklusive Überprüfung ihres Alters. Die persönliche Identifizierung ist notwendig, damit Fälschungs- und Umgehungsrisiken möglichst vermieden werden.
  2. durch Authen­tifizierung beim einzelnen Nutzungsvorgang. Die Authentifizierung dient der Sicherstellung, dass nur die jeweils identifizierte und altersgeprüfte Person Zugang zu geschlossenen Benutzergruppen erhält, und soll die Weitergabe von Zugangsberechtigungen an unautorisierte Dritte erschweren.

Details dazu entnehmen Sie bitte den Kriterien zur Bewertung von Konzepten für Altersverifikationssysteme (AVS-Raster).

Verfahren der Positivbewertung

Der JMStV enthält kein Anerkennungsverfahren für geschlossene Benutzergruppen oder AV-Systeme. Daher hat die KJM ein Verfahren der Positivbewertung entwickelt und bewertet auf Anfrage von Unternehmen oder Anbietern entsprechende Konzepte. Dies dient der Verbesserung des Jugendschutzes im Internet und ist gleichzeitig ein Service für die Anbieter für mehr Rechts- und Planungssicherheit.

Die Hauptverantwortung für die JMStV-konforme Gestaltung eines Internetangebots liegt aber beim Inhalteanbieter. Er muss sicherstellen, dass pornografische und bestimmte andere jugendgefährdende Inhalte in seinem Angebot nur für Erwachsene zugänglich sind (geschlossene Benutzergruppen). Er kann sich dabei technischer Jugendschutz-Konzepte bedienen, die die KJM bereits positiv bewertet hat. Positivbewertungen können von der KJM im Rahmen von Pressemitteilungen veröffentlicht werden.

Bewertung durch die KJM

Die KJM bewertet sowohl Konzepte für Gesamtlösungen als auch für Teillösungen (Module) für geschlossene Benutzergruppen.

Die KJM bewertet ausschließlich Konzepte. Für die aufsichtsrechtliche Beurteilung ist die Umsetzung der geschlossenen Benutzergruppen in der Praxis entscheidend.

Das AVS-Raster der KJM spezifiziert die Anforderungen der KJM. Es dient dazu, die Entscheidungsprozesse der KJM bei der Bewertung transparent zu machen und Standards zu definieren.

Datenbank Altersverifikationssysteme

  • Cybits AG: „[verify-U] III“

    August 2006 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Beim AVS-Konzept „[verify-U] III“ der Cybits AG handelt es sich um die Weiterentwicklung eines AVS, das schon 2006 von der KJM positiv bewertet wurde. Die ursprünglichen Identifizierungs- und Altersprüfvarianten über Postident und über den „Identitäts-Check mit Q-Bit“ der Schufa Holding AG in Verbindung mit der persönlichen Auslieferung von initialen Zugangsdaten (Autorisierungscode) per Einschreiben „eigenhändig“ bleiben erhalten.

    Als neue Identifizierungsoption bietet „[verify-U] III“ an, beim Registrierungsprozess die Daten und das Alter des Nutzers über die eID-Funktion seines neuen Personalausweises (nPA) zu prüfen.

    Zur Auslieferung des Autorisierungscodes sieht „[verify-U] III“ zusätzlich die Variante eines „Banklaufs“ vor: Mittels Gut- und Lastschrift wird ein zweiteiliger Autorisierungscode auf ein im Onlinebanking nutzbares Girokonto des Nutzers übermittelt. Um sicherzustellen, dass der Code über den Banklauf nur an die zuvor als volljährig identifizierte Person übermittelt wird, kommt neben Schufa-QBit im Vorfeld auch der Schufa-KontonummernCheck zum Einsatz: Die Schufa bestätigt damit, dass zu der angefragten Person auch die angegebene Kontoverbindung gehört.

    Alternativ kann eine Aktivierung des Nutzeraccounts über eine Variante des giropay-Verfahrens erfolgen: Der Nutzer loggt sich mit seinen Nutzerdaten über Online-Banking in sein Girokonto ein und gibt mittels gültiger TAN eine Transaktion frei. Bei erfolgreicher Transaktion bestätigt giropay umgehend die Überweisung. Anschließend erhält der als volljährig bestätigte Nutzer einen zeitlich begrenzten Aktivierungslink und kann im Registrierungsprozess von „[verify-U] III“ fortfahren.

    Durch ein Zusammenspiel und Ineinandergreifen mehrerer Kontrollroutinen wird hinreichend sichergestellt, dass eine Aktivierung des Nutzeraccounts nur durch diejenige Person erfolgen kann, die zuvor als volljährig identifiziert wurde. Der Nutzer muss sich vor jedem Zutritt zu einer geschlossenen Benutzergruppe mit seinen individuellen Zugangsdaten einloggen. Zudem ist eine Bindung des Nutzeraccounts an bestimmte im System registrierte Hardwarekomponenten erforderlich.

    (Entscheidung der KJM vom Oktober 2012; vgl. hierzu auch die Entscheidung der KJM vom August 2006)

  • Cybits AG: „AVS '[verify-U]-System II'“

    Oktober 2012 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Mit diesem AV-System wird die Möglichkeit zur Einrichtung geschlossener Benutzergruppen an mehreren Endgeräten vorgesehen: gegenwärtig sowohl bei PCs als auch bei Mobilfunkgeräten und Settopboxen. Die Identifizierung erfolgt über den "Identitäts-Check mit Q-Bit" der Schufa Holding AG. Als alternative Identifizierungsvariante ist außerdem das Post-Ident-Verfahren vorgesehen. Um zu gewährleisten, dass der Zugang zur geschlossenen Benutzergruppe nur für die zuvor identifizierten Erwachsenen zugänglich ist, müssen sich diese zu Beginn jeder Nutzung authentifizieren. Hierfür muss jeder Nutzer seinen Zugang mit dem persönlich zugestellten Alters-PIN (Adult-PIN) auf der Verify-U-Internetseite aktivieren und sein Endgerät beim System anmelden. Zusätzlich ist im Fall der Weitergabe der Zugangsberechtigung ein Kostenrisiko gegeben.

    (Entscheidung der KJM vom August 2006; vgl. auch die Entscheidung der KJM vom Oktober 2012)

  • Deutsche Bank AG: „AgeCertificate“

    Januar 2019 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Möchte ein Kunde bei der Nutzung eines Onlineshops aufgrund von Shop- oder Gesetzesvorgaben oder Geschäftsbedingungen sein Alter als volljährig verifizieren, steht ihm die Möglichkeit der Altersverifikation mittels seines Onlinebanking-Accounts bei der Deutschen Bank zur Verfügung. Wenn ein Onlineshop diese Verifikationsmöglichkeit anbietet, wird der Kunde während des Check-Out-Vorgangs auf eine Internetseite der Deutschen Bank weitergeleitet. Auf dieser Seite loggt er sich mit seinen Onlinebanking-Zugangsdaten ein, um dann per Klick seine Zustimmung zur Nutzung bestimmter personenbezogener Daten (hier: Bestätigung der Volljährigkeit) zu erteilen. Die Schnittstelle der Deutschen Bank (dbAPI) errechnet daraufhin das aktuelle Alter des Kunden anhand seines Geburtsdatums und erteilt dem Onlineshop die Auskunft, ob der Kund bereits volljährig ist oder nicht. Eine Auskunft über das tatsächliche Alter oder das Geburtsdatum des Kunden wird dem Onlineshop nicht mitgeteilt.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass es sich bei entsprechender Umsetzung als vollständiges AVS-Konzept im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe eignet. Der Inhalte-Anbieter hat in eigener Verantwortung zusätzliche Sicherungspflichten (wie z. B. Freischaltung nur bei Rückmeldung „volljährig“, Backdoorschutz, Time-Out nach bestimmter Idle-Time, zeitliche Begrenzung einer Sitzung) zu implementieren.

    (Entscheidung der KJM vom Januar 2019)

  • Deutsche Post AG: „POSTIDENT durch Videochat“

    Juni 2015 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „POSTIDENT durch Videochat“ handelt es sich um ein Modul (Teillösung) für eine geschlossene Benutzergruppe auf der Stufe der Identifizierung. Das Modul alleine reicht jedoch nicht aus, um eine geschlossene Benutzergruppe sicherzustellen, es muss im Rahmen eines geeigneten Gesamtkonzepts zur Anwendung kommen.

    Das Konzept beruht auf einem mehrstufigen Identifizierungsverfahren. Die Identifikation des Nutzers erfolgt dabei zunächst durch die Eingabe der Ausweisdaten im Identifizierungssystem. Im Anschluss daran wird die Identität des Nutzers in einer Videokonferenz mit geschulten Mitarbeitern der Deutschen Post AG verifiziert, bei der das Ausweisdokument und die Übereinstimmung der Daten geprüft werden. Schließlich wird dem Kunden eine TAN zugesandt, durch deren Eingabe die Identifizierung abgeschlossen wird. Nur wenn alle Schritte erfolgreich durchlaufen wurden und keine Widersprüche auftreten, erlangt der Nutzer Zugang zum gewünschten Angebot.

    (Entscheidung der KJM vom Juni 2015)

  • Deutsche Telekom AG: „NetGate“

    Dezember 2008 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    „NetGate“ baut auf bereits von der KJM positiv bewerteten AVS-Konzepten der T-Online International AG auf und enthält zusätzliche Möglichkeiten der Identifizierung und Authentifizierung für einen künftigen Einsatz im gesamten Konzern der Deutschen Telekom AG. Auch für Kooperationspartner soll „NetGate“ als Altersverifikationsdienst eingesetzt werden. Die Identifizierung ist entweder mittels Post-Ident-Verfahren, persönlich im Telekom-Shop oder über entsprechend geschulte Vertriebspartner vorgesehen. Alternativ ist auch eine Identifizierung über das von der KJM positiv bewertete Modul „Identitäts-Check mit Q-Bit“ der Schufa oder über Personendaten möglich, die bei Abschluss eines T-Mobile-Vertrags erfasst wurden. In den letzten beiden Varianten wird auf eine bereits erfolgte Face-to-Face-Kontrolle zurückgegriffen – ergänzt durch eine Auslieferung der Zugangsdaten per eigenhändigem Einschreiben. Auch für die Authentifizierung gibt es verschiedene Varianten. Es kommen verschiedene Endgeräte zum Einsatz – PC, Set-Top-Box und Mobilfunkgerät – und damit verschiedene Verfahren mit Hardwarebindung. Zudem ist in jedem Fall die Eingabe einer speziellen, individuellen Erwachsenen-PIN erforderlich. Hinzu kommen Maßnahmen in der Sphäre des Benutzers, die das Risiko der Weitergabe der Zugangsdaten und deren unautorisierte Nutzung durch Dritte reduzieren: Finanzielle Risiken sowie weitere persönliche Risiken, wie die Übernahme der virtuellen Identität des autorisierten Nutzers, das Einsehen von Rechnungsdaten und ggf. Einzelverbindungsnachweisen sowie das Ändern von Telefon-, Access- und Mobilfunktarifen.

    (Entscheidung der KJM vom Dezember 2008)

  • Digital Client Onboarding Suite

    Juli 2023 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei „Digital Client Onboarding Suite“ handelt es sich um ein webbasiertes Onboarding-Portal. Inhalteanbieter können dieses in ihre Angebote mittels eines Software Development Kit (SDK) einbinden. 

    Zum einen hat der Nutzer die Möglichkeit, sich ausschließlich durch die „Digital Client Onboarding Suite“ mittels künstlicher Intelligenz und biometrischem Abgleich zu identifizieren. „Digital Client Onboarding Suite“ steuert dabei die zu identifizierende Person durch die Aufnahme der Bilder. Zunächst hat der Nutzer die Vorder- und Rückseite des zu prüfenden Ausweisdokuments in die Kamera zu halten. Im Anschluss liest „Digital Client Onboarding Suite“ automatisiert sämtliche Daten des Ausweisdokuments aus und überprüft anhand diverser Sicherheitsmerkmale, dass es sich um ein echtes Ausweisdokument handelt. Es erfolgt eine automatische Durchführung spezieller Sicherheits-Checks, um Betrugsversuche zu verhindern. Dabei wird u.a. geprüft, ob physische oder digitale Manipulationen an dem Ausweisdokument bzw. der Bilder vorgenommen wurden. Sodann hat die Person Live-Aufnahmen ihres Gesichts zu erstellen. Im Anschluss erfolgt eine „Lebenderkennung“, durch die sichergestellt wird, dass es sich tatsächlich um eine Live-Aufnahme handelt und nicht bloß um ein Foto. Abschließend erfolgt automatisiert der biometrische Abgleich des Fotos auf dem Ausweisdokument mit der Live-Aufnahme des Gesichts der zu identifizierenden Person.

    Zudem besteht die Möglichkeit, sich mittels des deutschen Personalausweises mit Online-Ausweisfunktion unter Verwendung einer NFC-Schnittstelle (Near Field Communication), über die die Daten des Ausweisdokuments ausgelesen werden können, zu identifizieren.

    Die KJM kam zu dem Ergebnis, dass das Konzept „Digital Client Onboarding Suite“ der Global Digital Profile GmbH bei entsprechender Umsetzung die gesetzlichen Anforderungen des § 4 Abs. 2 S. 2 JMStV im Hinblick auf die Identifizierung erfüllt, sofern der Inhalteanbieter mit zusätzlichen Mitteln sicherstellt, dass nur bei als volljährig identifizierten Nutzern nach Zustellung von Zugangsdaten ein Zugang zu Inhalten nach § 4 Abs. 2 S. 2 JMStV freigeschaltet wird und er zusätzliche Sicherungspflichten implementiert.

    (KJM Entscheidung Juli 2023)

  • Erotic media AG: für Mediendienst, der von Kabel Deutschland vermarktet wird

    Juni 2006 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Nutzer, die auf das Pay-per-View-Angebot zugreifen möchten, müssen zuerst ihre Volljährigkeit persönlich nachweisen, in dem sie sich über das Post-Ident-Verfahren identifizieren. Danach bekommen sie ihren individuellen Zugangsschlüssel, die „Erotik-PIN“, persönlich zugestellt. Um zu gewährleisten, dass die Filme in der geschlossenen Benutzergruppe nur für die identifizierten Erwachsenen zugänglich sind, müssen sich diese zu Beginn jeder Nutzung authentifizieren. Dafür muss die Erotik-PIN (Adult-Passwort) sowie die Nummer der personalisierten Smart-Card eingegeben werden. In Zugangsdaten und Smart-Card ist auch eine Bezahlfunktion integriert. Die Filmnutzung ist zeitlich begrenzt. Durch diese Kombination verschiedener Schutzmaßnahmen wird das Risiko der Weitergabe von Zugangsdaten und Smart-Card an unautorisierte Dritte reduziert.

    (Entscheidung der KJM vom Juni 2006)

  • Face Assure

    Oktober 2022 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei dem System „Face Assure“ der Privately SA handelt es sich um Tool zur Altersschätzung mittels künstlicher Intelligenz. Inhalteanbieter können dieses Tool in ihren eigenen Telemedienangeboten implementieren, um so das Alter von Nutzern einschätzen zu können.

    Die dahinterstehende Technik besteht aus einem neuronalen Netzwerk, welches mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen.

    Zur Alterseinschätzung hat der Nutzer in die Kamera des Telefons oder in die Webcam des Computers zu schauen. Das Bild wird auf dem Gerät des Benutzers verarbeitet, um sein Alter zu schätzen. Mittels des neuronalen Netzwerks wird das Alter anhand des Bildes innerhalb von 1,5 Sekunden geschätzt. Ein Download einer App oder die Einreichung von Ausweisdokumenten werden für die Alterseinschätzung nicht benötigt, die im Rahmen der Altersschätzung übermittelten biometrischen Daten verbleiben dann ausschließlich auf dem Endgerät der zu identifizierenden Person.

    „Face Assure“ hält Vorkehrungen bereit, die Manipulation bei der Altersermittlung verhindert soll. Das Verfahren zur Ermittlung von Gesichtern erkennt, ob es sich bei der Live-Aufnahme um eine reale, lebendige Person handelt (Lebenserkennung) oder ob versucht wird, das System durch Nutzung einer Fotografie oder eines Videos von einer anderen, älteren Person zu tauschen. Bei Feststellung eines möglichen Manipluationsversuchs bricht die Altersermittlung ab.

    Die KJM kam nach Prüfung des Konzepts zu dem Ergebnis, dass „Face Assure“ der Privately SA in der vorgelegten Version und bei entsprechender Umsetzung somit als Teillösung auf Stufe der Identifizierung im Sinne der KJM-Kriterien zur Sicherstellung einer geschlossenen Benutzergruppe für Erwachsene gemäß Jugendmedienschutz-Staatsvertrag (JMStV) geeignet ist.

    (KJM-Entscheidung Oktober 2022)

  • FinTecSystems: „FinTecSystems“

    Juni 2021 Altersverifikationssysteme (Modul) / unzulässige Inhalte

    Bei „FinTecSystems“ der FinTecSystems GmbH handelt es sich um ein Modul für eine geschlossene Benutzergruppe auf der Ebene der Identifizierung. Das Modul alleine reicht nicht aus, um eine geschlossene Benutzergruppe sicherzustellen, es muss im Rahmen eines geeigneten Gesamtkonzepts zur Anwendung kommen.

    Bei „FinTecSystems“ wird zum Abgleich der User-Daten auf eine bereits erfolgte „face-to-face“-Identifizierung zurückgegriffen. Telemedienanbieter können sich „FinTecSystems“ bedienen, um so ihren Nutzern die Identifizierung mittels Abgleich im Bereich Open Banking zu ermöglichen. Der Telemedienanbieter erhält dabei keinen Zugang zu den Kontodaten des Nutzers. Nach Abschluss der Identifizierung erhält dieser lediglich eine Bestätigung über die Volljährigkeit des Nutzers bzw. eine Bestätigung, dass die Volljährigkeit nicht bestätigt werden konnte.

    (Entscheidung der KJM vom Juni 2021)

  • Full Motion Entertainment GmbH: „Mirtoo AVS” (ehemals „Crowlock”)

    Mai 2004 Altersverifikationssysteme (Gesamtkonzept) / unzulässige Inhalte

    Die Identifizierung der Kunden erfolgt durch das Post-Ident-Verfahren. Die Authentifizierung bei jedem Nutzungsvorgang erfolgt mittels eines Challenge-Response-Verfahrens mit Hardwareschlüssel in Form einer VideoDVD und einer PIN. Hardwareschlüssel und PIN werden dem Kunden persönlich, per Post-Ident-Verfahren, zugestellt.

    (Entscheidung der KJM vom Mai 2004)