Risikobewertung

Anbieterpflichten

Mit dem Digital Services Act (DSA) gelten seit dem 17. Februar 2024 europaweit einheitliche Regelungen für den Kinder- und Jugendmedienschutz in Online-Plattformen. Anbieter von Online-Plattformen wie Social-Media-Dienste sind gesetzlich dazu verpflichtet, besondere Schutzvorkehrungen für Kinder und Jugendliche innerhalb ihrer Dienste zu treffen und damit ein hohes Maß an Privatsphäre, Sicherheit und Schutz zu gewährleisten. Strukturelle Vorsorgemaßnahmen wie Elternbegleittools, effektive Melde- und Abhilfeverfahren, altersbezogene Voreinstellungen oder Hinweise auf externe Hilfsangebote stellen solche Schutzvorkehrungen dar, Alterskennzeichen auf Film- oder Spieleplattformen müssen zudem deutlich wahrnehmbar und allgemeine Geschäftsbedingungen auch für junge Menschen verständlich erklärt werden.

Risikobewertung im Kontext der Anbietervorsorge

Die Überprüfung von Online-Plattformen mit Sitz primär in Deutschland auf die Einhaltung und Umsetzung der Anforderungen an eine hinreichende Anbietervorsorge durch die KidD gliedert sich in die Bereiche der Risikobewertung und Risikobegegnung.

Im Rahmen der Risikobewertungbeurteilt die KidD zunächst, welche Risiken für Kinder und Jugendliche bei der konkreten Nutzung einer Online-Plattform bestehen. Für die Beurteilung greift sie unter anderem auf den von der Bundeszentrale für Kinder- und Jugendmedienschutz herausgegebenen Gefährdungsatlas zurück, der relevante Medienphänomene und mit diesen verbundene Gefährdungen wissenschaftlich aufbereitet und detailliert darstellt.

Die Gefährdungen lassen sich in drei Risikogruppen übertragen:

1.    Konfrontationsrisiken

Konfrontationsrisiken entstehen durch Konfrontation mit entwicklungsbeeinträchtigenden und jugendgefährdenden Inhalten.

Beispiele für Konfrontationsrisiken: Extremistische Inhalte, altersunangemessene sexuelle Inhalte, Gewalt, Desinformation und Verschwörungserzählungen, Bewerbung und Verbreitung gesundheitsgefährdender Substanzen, Pro-Ana/Pro-Mia sowie weitere Pro-ES-Inhalte, Suizidforen, Darstellungen von Kindern und Jugendlichen als Sexualobjekte.

2.    Interaktionsrisiken

Interaktionsrisiken entstehen durch Interaktion mit schädigenden Dritten.

Beispiele für Interaktionsrisiken: Cybergrooming, Cybermobbing, Cyberstalking, die missbräuchliche Verbreitung intimer Inhalte, Fake Accounts mit schädigender Absicht, Identitätsdiebstahl, Online-Pranger/Doxing.

3.    Nutzungsrisiken

Nutzungsrisiken liegen in der individuellen Nutzung der Online-Plattform und dessen Ausgestaltung.

Beispiele für Nutzungsrisiken: Kostenfallen, (simuliertes) Online-Glücksspiel, Internetsucht und exzessive Mediennutzung, algorithmisierte Empfehlungssysteme, Empfehlungsschleifen, Intransparenz oder Missbrauch persönlicher Daten, Profilbildung und -auswertung, exzessive Selbstdarstellung, unverständliche Nutzungsbedingungen/AGB.

Risikoidentifizierung

Wenn die KidD Risiken für Kinder und Jugendliche auf einer Online-Plattform identifiziert hat, prüft und beurteilt sie im Rahmen der Risikobewertung, ob der Plattformanbieter ausreichende und wirksame strukturelle Vorsorgemaßnahmen zur Risikobegegnungeingerichtet hat, um Kinder und Jugendliche vor diesen Risiken zu schützen.

Informationen zu den strukturellen Vorsorgemaßnahmen, welche es gibt und wie sie dabei unterstützen können, Kinder und Jugendliche vor Risiken auf den Online-Plattformen zu schützen, finden Sie in der Rubrik Risikobegegnung.

Gefährdungsatlas der BzKJ 

Der Gefährdungsatlas der BzKJ sowie weitere Informationen zu den verschiedenen Medienphänomenen stehen zum digitalen und kostenfreien Abruf im Servicebereich auf der Website der BzKJ bereit.