Rund ein Jahr nach Aufnahme der Arbeit hat die unabhängige Expertenkommission im September ihren Abschlussbericht vorgelegt. Ziel der Kommission war es, eine Strategie für den Kinder- und Jugendschutz in der digitalen Welt mit konkreten Handlungsempfehlungen für die zuständigen Akteure wie Bund, Länder und Zivilgesellschaft zu erarbeiten. Wir stellen ausgewählte Handlungsempfehlungen der Kommission vor.
Insgesamt hat die Kommission 56 Handlungsempfehlungen formuliert, die kurz-, mittel- oder langfristig zu einem besseren Schutz von Kindern und Jugendlichen im digitalen Zeitalter und im Umgang mit Medien beitragen sollen. Die einzelnen Maßnahmen können dabei sechs staffierten Altersgruppen zugeordnet werden, von der frühen Kindheit (0 – 2 Jahre) bis hin ins Erwachsenenalter (18+).
Eltern und Familien stärken und verpflichten
Eine der am frühesten ansetzenden Maßnahmen sieht vor, Familien vor der Geburt sowie in den ersten Lebensmonaten des Kindes verlässlich zum Medienkonsum in den ersten drei Lebensjahren zu beraten. Aufklärende Gespräche durch Hebammen, Kinderärzt/-innen, Frühe Hilfen, Kitas sowie ergänzende aufsuchende Angebote sollen dazu beitragen, die Bildschirmzeit in den ersten Lebensjahren zu reduzieren, um Entwicklungsrisiken zu minimieren. Gleichzeitig soll das Recht der Personenfürsorge digitale Entwicklungs- und Schutzrisiken konkreter erfassen. Ähnlich wie bei der Einführung der gewaltfreien Erziehung soll der Gesetzgeber das Recht des Kindes auf Pflege und Erziehung um den Schutz vor Vernachlässigung einschließlich digitaler Vernachlässigung erweitern.
Basiskompetenzen aufbauen und Umgang regeln
Um sicherzustellen, dass Kinder früh ein niedrigschwelliges Grundverständnis für einen kompetenten KI-Umgang erwerben, wie es auch die EU-KI-Verordnung vorsieht, soll ein verpflichtendes, online erwerbbares und kindgerechtes Zertifikat (zunächst für das Grundschulalter) eingeführt werden. Der Bund organisiert den Erwerb, die Länder die Vermittlung, während ein Expertenrat die Inhalte fortlaufend pflegt. Des Weiteren kommt die Kommission zu dem Schluss die private Nutzung von digitalen Endgeräten im Schulkontext mit vielen Nachteilen verbunden ist. Empfohlen wird deshalb, die private Nutzung an Grundschulen und bis einschließlich der 7. Klasse im Unterricht, in außerunterrichtlichen Angeboten sowie den Pausen zu untersagen und dies in den Schulgesetzen zu verankern. Ab der 8. Jahrgangsstufe sollen Schulen dann unter Beteiligung der Schüler/-innen verbindliche Nutzungskonzepte erarbeiten.
Gesundheit und Sicherheit schützen
Lange Bildschirmzeiten und Bewegungsmangel haben einen erheblichen Einfluss auf die körperliche und seelische Gesundheit von Kindern. Vor diesem Hintergrund soll die Beratung zu Mediennutzung und -erziehung verbindlich in die Vorsorgeuntersuchungen mitaufgenommen werden. Kinder- und Jugendärzt/-innen sollen so schon die frühen Vorsorgen und die Schuleingangsuntersuchung nutzen, um zu Risiken aufzuklären und eine analoge Freizeitgestaltung zu stärken. Zugleich werden Bund und Länder angehalten, gemeinsam eine bundeseinheitliche, kindgerechte Anzeige- und Meldestelle einzurichten, an die sich Kinder und Jugendliche bei Straftaten im digitalen Raum wenden können.
Plattformen und Anbieter in die Pflicht nehmen
Viele Risiken, die von digitalen Plattformen ausgehen, werden durch deren Gestaltung (wie Algorithmen, Endlos-Feeds, Benachrichtigungen, etc.) verstärkt. Artikel 28 Absatz 1 des Digital Services Act (DSA) verpflichtet Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, geeignete und verhältnismäßige Maßnahmen zu ergreifen, um ein hohes Maß an Privatsphäre, Sicherheit und Schutz für Kinder und Jugendliche zu gewährleisten. Da diese Bestimmungen nach Ansicht der Kommission aber zu allgemein bleiben, wird eine Konkretisierung mit klaren Schutzvorgaben empfohlen, wobei zwei Alternativen formuliert werden: Während die erste Option eine gesetzliche Mindestaltersgrenze von 13 Jahren für Social-Media-Accounts mit wirksamer Altersprüfung und abgestuften Schutzstandards für die Altersgruppen 13-16 sowie 16-18 vorsieht, schlägt die zweite Option dienst- und funktionsspezifische Beschränkungen nach Risikobewertung des jeweiligen Angebots vor. Für Accounts Minderjähriger
soll ein verbindlicher Katalog standardmäßiger sicherer Voreinstellungen gelten, der per Default wirkt. Algorithmische Feeds, personalisierte Werbung und suchtverstärkende Funktionen soll es dort nicht mehr geben. In diesem Zuge fordert die Kommission EU und Bund zudem auf, festzulegen, welche Verfahren zur datenschutzgerechten Altersbestimmung zulässig sind.
Auf künstliche Intelligenz reagieren
Sogenannte AI Companions sind darauf ausgelegt, durch fortlaufende, personalisierte Interaktion emotionale Nähe und Bindung zu erzeugen. Gerade für vulnerable Jugendliche drohen parasoziale Beziehungen, emotionale Abhängigkeit und die Verstärkung psychischer Belastungen, während die KI-Verordnung und der DSA diese Risiken bislang nicht ausreichend erfassen. Eingeführt werden soll deshalb eine gesetzliche Altersgrenze von 13 Jahren samt Anbieterpflichten wie eine zuverlässige Altersprüfung, jugendgerechte Voreinstellungen, Schutz gegen emotionale Abhängigkeit und klar erkennbare Hinweise, dass es sich nicht um eine menschliche Beziehung handelt.
Die vollständigen 56 Handlungsempfehlungen einschließlich Problem-, Empfehlungs- und Wirkungsbeschreibung sind dem Bericht der Kommission zu entnehmen.
