Anbieter von Online-Plattformen wie Social-Media-Dienste sind gesetzlich dazu verpflichtet, besondere Schutzvorkehrungen durch Einrichtung struktureller Vorsorgemaßnahmen für Kinder und Jugendliche innerhalb ihrer Dienste zu treffen. Die Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (KidD) überprüft Online-Plattformen nach den Vorschriften des Digital Services Act (DSA) mit Sitz oder einer Vertretung in Deutschland und beurteilt, ob in den digitalen Angeboten angemessene und wirksame strukturelle Vorsorgemaßnahmen vorgehalten werden.
Die Überprüfung durch die KidD gliedert sich in die Prüfschritte der Risikobewertung und Risikobegegnung.
Kriterien zur Risikobegegnung
Stellt die KidD im Rahmen der Risikobewertung fest, dass ein Anbieter einer für Kinder und Jugendliche zugänglichen Online-Plattform keine oder nur unzureichende strukturelle Vorsorgemaßnahmen zur Risikobegegnung getroffen hat, wird sie als Aufsichtsstelle tätig.
Strukturelle Vorsorgemaßnahmen auf Online-Plattformen zielen auf einen wirksamen Schutz von Kindern und Jugendlichen insbesondere vor Gefahren bei der Interaktion mit anderen Personen ab. Außerdem sollen sie ihnen einen wirksamen Schutz vor potenziell schädigenden oder unangemessenen Inhalten bieten oder auch persönlichen Integritätsverletzungen vorbeugen. Strukturelle Vorsorgemaßnamen stellen sicher, dass Plattformanbieter bereits bei der Ausgestaltung ihrer Angebote Risiken für Kinder und Jugendliche mitdenken und diesen durch den Einsatz verschiedener technischer und struktureller Instrumente von Beginn an systematisch begegnen.
Um bestehenden Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen zu begegnen, hat die Europäische Kommission Leitlinien zur Konkretisierung der Anbieterpflichten erarbeitet und veröffentlicht. Damit sollen Anbieter unterstützt werden, dem Kinder- und Jugendmedienschutz nachzukommen.
Die Leitlinien benennen mehrere mögliche, jedoch nicht abschließend aufgelistete Maßnahmen zur Risikobegegnung:
- Altersüberprüfung
Hiermit sollen Zugangsbeschränkungen erfolgen, um Minderjährige vor dem Zugriff auf ungeeignete Inhalte wie Glücksspiel, Pornografie oder anderen Risiken zu schützen. Mechanismen der Altersüberprüfung können auch dazu genutzt werden, den Zugang Erwachsener zu bestimmten Plattformen, die für Minderjährige konzipiert sind, zu verhindern. - Registrierung
Eine Registrierung oder Authentifizierung kann Einfluss darauf haben, ob und wie Minderjährige in der Lage sind, auf einen bestimmten Dienst auf sichere, altersgerechte und rechtewahrende Weise zuzugreifen und ihn zu nutzen. - Standardeinstellungen
Standardeinstellungen können etwa das Risiko von unerwünschtem Kontakt zu anderen Personen verringern. Beispielsweise sollen Likes, Tags, Kommentare, Direktnachrichten oder Reposts nur durch zuvor akzeptierte Konten erlaubt werden. Screenshots von Inhalten oder Kontaktinformationen sollen unterbunden werden. - Online-Interface-Design
Minderjährige sollen die Möglichkeit haben, selbst zu entscheiden, wie sie einen Dienst in Anspruch nehmen möchten. Beispielsweise soll sichergestellt werden, dass das Design eine altersgerechte Erfahrung für Minderjährige bietet. Designmerkmale, die darauf abzielen, Kinder zu einer extensiven Nutzung zu verführen oder zu anderen problematischen, zwanghaften Verhaltensgewohnheiten, sollen verhindert werden. - Transparente Empfehlungssysteme/Algorithmen
Empfehlungssysteme bestimmen, wie Informationen priorisiert und optimiert werden. Bestimmte Risiken können dadurch verschärft werden. Diese Empfehlungssysteme sollen transparent gemacht und im Hinblick auf Minderjährige regelmäßig getestet und angepasst werden, um die Privatsphäre, Sicherheit und Gefahrenabwehr von Minderjährigen zu verbessern. - Schutz vor Geschäftspraktiken
Minderjährige sind den überzeugenden Auswirkungen von Geschäftspraktiken besonders ausgesetzt und haben das Recht, online vor wirtschaftlich ausbeuterischen Praktiken geschützt zu werden. Online-Plattformen sollen so ausgestaltet sein, dass Kinder und Jugendlichen hierbei keinen finanziellen Risiken ausgesetzt sind. - Moderation
Moderation kann das Risiko verringern, dass Minderjährige problematischen oder gar illegalen Inhalten ausgesetzt werden. Auch kann sie dazu beitragen, der Begehung von Straftaten vorzubeugen.
Da jede Online-Plattform unterschiedliche Arten von Risiken für Kinder und Jugendliche enthalten kann, wird es nicht immer verhältnismäßig oder angemessen sein, dass alle Anbieter dieselben in dem Leitfaden der Europäischen Kommission beschriebenen Maßnahmen anwenden. Die Feststellung, ob eine bestimmte Maßnahme verhältnismäßig und angemessen ist, insbesondere wenn sie einen Eingriff in die Grundrechte natürlicher Personen zur Folge hat, erfordert immer eine Einzelfallprüfung.
Ablauf der Aufsichtsverfahren
Die Einzelheiten der Aufsichtsverfahren der KidD zu von den Online-Plattformen vorzuhaltenden strukturellen Vorsorgemaßnahmen sind in § 24b Jugendschutzgesetz (JuSchG) geregelt.
Die Verfahrenseinleitung ist über zwei Wege möglich:
- Die KidD stößt im Rahmen ihrer Marktaufsicht selbst auf die zu regulierenden Anbieter von Online-Plattformen.
- Dritte melden Verstöße seitens der Anbieter von Online-Plattformen.
Die KidD sichtet die jeweilige Online-Plattform und bewertet die Risiken. Entscheidet sie sich daraufhin für die weitere Überprüfung der Online-Plattform, holt sie von dem gemeinsamen Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten für den Schutz von Kindern und Jugendlichen im Internet jugendschutz.net eine erste Einschätzung zu den von dem jeweiligen Plattformanbieter getroffenen strukturellen Vorsorgemaßnahmen ein. Die KidD berücksichtigt außerdem die einzuholende Stellungnahme der Kommission für Jugendmedienschutz (KJM), also der zentralen Aufsichtsstelle der Länder für den Jugendmedienschutz.
Auf Grundlage dieser Bewertungen beurteilt die KidD, ob der Anbieter der Online-Plattform keine oder unzureichende strukturelle Vorsorgemaßnahmen getroffen hat. Diese Einschätzung teilt sie dem Plattformanbieter mit und gibt ihm die Möglichkeit zur Stellungnahme.
Sollte die Stellungnahme des Plattformanbieters in der Folge nicht zu einer Abhilfe, also der anschließenden Umsetzung oder Verbesserung von strukturellen Vorsorgemaßnahmen auf der Plattform führen, folgt eine Anbieterberatung. Die KidD berät den jeweiligen Anbieter der Online-Plattform über die erforderlichen strukturellen Vorsorgemaßnahmen, um den Risiken auf der Plattform wirksam zu begegnen. Das Angebot zur Beratung ist freiwillig. Plattformanbietern wird die Wahrnehmung des Beratungsangebotes durch die KidD empfohlen. Dieses bietet ihnen die Möglichkeit, die erforderlichen Maßnahmen in einem vertraulichen und dialogischen Rahmen gemeinsam zu erörtern. Typischerweise wird das Aufsichtsverfahren mit dem Abschluss der Beratung und der Umsetzung oder Verbesserung der noch zu treffenden strukturellen Vorsorgemaßnahmen enden.
Ein anderer Verfahrensverlauf ist dann geboten, wenn der Plattformanbieter nach seiner Stellungnahme oder nach erfolgter Beratung die seitens der KidD für zwingend geboten erachteten Maßnahmen nicht umsetzt. In diesem Fall fordert die KidD den Plattformanbieter unter angemessener Fristsetzung zur Abhilfe auf. Soweit auch dieser Aufforderung nicht oder nicht fristgerecht entsprochen wird, kann die KidD die erforderlichen Maßnahmen unter erneuter angemessener Fristsetzung selbst anordnen. Zuvor gibt sie der Kommission für Jugendmedienschutz (KJM), der zentralen Aufsichtsstelle der Länder für den Jugendmedienschutz, erneut Gelegenheit zur Stellungnahme. Die Zuwiderhandlung, also die Nichtbeachtung der vollziehbaren Anordnung von strukturellen Vorsorgemaßnahmen, stellt eine Ordnungswidrigkeit dar, welche mit empfindlichen Geldbußen geahndet werden kann. Das bedeutet: Verweigert ein Plattformanbieter die Umsetzung oder Nachbesserung, setzt die KidD eine wirksame Risikobegegnung mittels einer Androhung durch und reagiert auf Verstöße in geeigneten Fällen mit empfindlichen Geldbußen.