EU KIDS Act: EU-Kommission plant neue Regeln für Social Media, KI-Chatbots und Minderjährige

Der Entwurf geht dabei deutlich über ein Mindestalter für Social Media hinaus. Er greift unmittelbar in die Gestaltung digitaler Produkte ein: Empfehlungssysteme, Push-Nachrichten, Kontaktfunktionen, Live-Streaming, In-App-Käufe und KI-Chatbots sollen für Minderjährige anders funktionieren müssen als für Erwachsene. Der KIDS Act knüpft ausdrücklich an den Digital Services Act (DSA) und den AI Act an. Einen Überblick über die bestehenden Vorgaben bietet Mueller.legal im Bereich Plattformrecht und DSA.

Das Wichtigste in Kürze

• Unter 15 Jahren: Eigene Konten sollen bei sozialen Netzwerken und Videoportalen mit bestimmten Risikomerkmalen grundsätzlich ausgeschlossen sein. Für 13- und 14-Jährige können Eltern oder andere Erziehungsberechtigte eingeschränkte Konten einrichten.
• Altersprüfung: Eine bloße Eingabe des Geburtsdatums soll für die betroffenen Dienste nicht mehr genügen. Vorgesehen sind zertifizierte und datenschutzwahrende Verfahren.
• Safety by Design: Funktionen, die eine exzessive Nutzung fördern können, sowie riskante Empfehlungs-, Kontakt- und Standardeinstellungen sollen für Minderjährige eingeschränkt werden.
• KI-Chatbots: Bestimmte KI-Begleiter und allgemeine Chatbots sollen Minderjährige nicht durch simulierte zwischenmenschliche Beziehungen in emotionale Abhängigkeit bringen. Auch Tests vor dem Markteintritt und eine anschließende Überwachung sind vorgesehen.

Altersgrenzen gelten nur für Dienste mit bestimmten Risikofunktionen

Besonders sichtbar ist das geplante gestaffelte Altersmodell. Der Entwurf verbietet es Anbietern bestimmter sozialer Netzwerke und Video-Sharing-Dienste, Personen unter 15 Jahren ein eigenes Konto anzubieten.

Das gilt allerdings nicht automatisch für jedes Angebot. Art. 6 des Entwurfs nennt konkrete Risikomerkmale. Erfasst werden sollen etwa Dienste, die offene Livestreams ermöglichen, Kontakte außerhalb bestehender Verbindungen zulassen, profilingbasierte Empfehlungen einsetzen oder Funktionen verwenden, die eine möglichst unterbrechungsfreie Nutzung fördern.

Für 13- und 14-Jährige können Anbieter eingeschränkte Konten ermöglichen, die von einem Erziehungsberechtigten eingerichtet werden. Die Eltern-Tools müssen dann dauerhaft aktiviert sein. Erziehungsberechtigte sollen eine tägliche Nutzungsdauer von höchstens einer Stunde festlegen und neue Kontakte vorab genehmigen können.

Für Kinder unter 13 Jahren sieht der Entwurf nur eine eng begrenzte Ausnahme vor. Videoportale, die speziell für jüngere Kinder gestaltet sind, können einen Zugang über das Konto eines Erziehungsberechtigten ermöglichen. Das Kind erhält dabei gerade kein eigenes Konto. Personalisierung und Empfehlungssysteme müssen grundsätzlich deaktiviert sein.

Geburtsdatum anklicken soll nicht mehr reichen

Die Altersgrenzen sollen technisch durchgesetzt werden. Für die von Art. 6 erfassten Dienste verlangt der Entwurf zertifizierte EU-Altersverifikationslösungen. Die Plattform soll dabei nicht erfahren, wer die betreffende Person ist, sondern lediglich den für den Zugang erforderlichen Altersnachweis erhalten.

Art. 28 verlangt ausdrücklich Verfahren nach dem Prinzip des Zero Knowledge Proof. Die Alterskontrolle darf nicht dazu genutzt werden, Nutzer zu identifizieren, zu lokalisieren, zu verfolgen oder zu profilieren. Zudem dürfen nur die Daten verarbeitet werden, die für die Feststellung der Altersgrenze erforderlich sind.

Auch bestehende Konten sind erfasst. Innerhalb von sechs Monaten nach Anwendbarkeit der neuen Regeln müssten die betroffenen Anbieter feststellen, ob bestehende Nutzerkonten Personen unter 15 Jahren gehören. Eine erneute Prüfung soll allerdings entfallen können, wenn mit hoher Sicherheit feststeht, dass der Nutzer die Altersgrenze erreicht hat.

Der KIDS Act reguliert den Feed

Ein besonders weitreichender Teil des Entwurfs betrifft die technische Gestaltung der Dienste. Social-Media- und Video-Plattformen dürfen ihre Angebote nach Art. 9 nicht so gestalten, dass eine zwanghafte oder übermäßige Nutzung durch Minderjährige beabsichtigt oder vorhersehbar gefördert wird.

Genannt werden unter anderem automatisches Abspielen und ununterbrochener Inhaltskonsum ohne wirksame Pausen, bestimmte Benachrichtigungen sowie Belohnungsmechanismen, die Nutzer zu regelmäßiger Rückkehr oder häufigeren Interaktionen bewegen. Gleichzeitig sollen Zeitbegrenzungen und Nutzungsunterbrechungen Schulzeiten und zentrale Schlafzeiten schützen.

Auch Empfehlungssysteme müssten verändert werden. Nach Art. 10 sollen Qualität, Sicherheit und psychische Gesundheit Minderjähriger in die Optimierung einfließen. Empfehlungen aufgrund impliziter Verhaltenssignale sollen standardmäßig deaktiviert sein. Daten über Minderjährige, die außerhalb des jeweiligen Dienstes erhoben wurden, dürfen für solche Empfehlungen nicht verwendet werden. Zudem muss mindestens eine Empfehlungsoption verfügbar sein, die nicht auf Profiling beruht.

Mueller.legal ordnet den KIDS Act deshalb nicht als bloße Altersgrenzen-Regulierung ein. Der Vorschlag verlagert den Minderjährigenschutz tief in die technische Produktgestaltung: Feed-Logik, Benachrichtigungen, Kontaktvorschläge und Standardeinstellungen würden selbst zum Gegenstand regulatorischer Vorgaben.

Private Profile und weniger Kontakte von Fremden

Für Minderjährige sollen zudem sichere Einstellungen zum Standard werden. Geolokalisierung und Tracking, Kamera- und Mikrofonzugriff, Kontaktvorschläge sowie bestimmte Push-Nachrichten müssen nach dem Entwurf zunächst deaktiviert sein.

Andere Nutzer sollen einen Minderjährigen nicht direkt kontaktieren können, wenn dieser den Kontakt nicht zuvor genehmigt hat. Minderjährige sollen nicht automatisch als Kontaktvorschläge erscheinen und nur mit ausdrücklicher Zustimmung Gruppen hinzugefügt werden können. Der Entwurf geht sogar so weit, das Herunterladen oder Anfertigen von Screenshots bestimmter von Minderjährigen geteilter Inhalte und Kontoinformationen durch andere Nutzer zu untersagen. Live-Streaming soll für Minderjährige standardmäßig deaktiviert sein.

KI-Chatbots sollen keine emotionale Abhängigkeit fördern

Eigene Regeln sieht der KIDS Act für sogenannte AI Companions und allgemeine Konversations-Chatbots vor, die Minderjährigen zugänglich sind.

Anbieter sollen Gestaltungselemente und Systemverhalten vermeiden müssen, die zwischenmenschliche Beziehungen simulieren und voraussichtlich emotionale Abhängigkeiten hervorrufen können. Informationen aus früheren Gesprächen mit einem Minderjährigen sollen standardmäßig nicht für spätere Unterhaltungen verwendet werden, soweit dies nicht für Schutzmaßnahmen erforderlich ist.

Vor dem Inverkehrbringen sollen Anbieter zudem Risiken für Gesundheit, Sicherheit, Grundrechte sowie die körperliche, psychische und emotionale Entwicklung Minderjähriger prüfen und Schutzmaßnahmen vorsehen. Grundsätzlich ist auch eine anschließende Beobachtung möglicher Schäden und neuer Risiken vorgesehen. Wird ein Chatbot als Funktion eines sozialen Netzwerks, Videoportals oder Online-Spiels angeboten, darf er für Minderjährige nicht automatisch aktiviert oder besonders hervorgehoben werden.

Aus DSA-Leitlinien sollen verbindliche Produktregeln werden

Rechtlich interessant ist vor allem das Verhältnis zum bereits geltenden Digital Services Act. Art. 28 DSA verpflichtet Online-Plattformen bereits heute dazu, ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen zu gewährleisten.

Die Kommission bezeichnet den KIDS Act in der Begründung ausdrücklich als Konkretisierung dieses bestehenden Rahmens. Bestimmungen aus den Leitlinien zum Schutz Minderjähriger nach dem DSA sollen für die erfassten Bereiche in verbindliches Recht überführt werden. Der Entwurf spricht insoweit ausdrücklich von „hard law“. Bestehende DSA-Verfahren sollen davon unberührt bleiben.

Nach Einschätzung von Mueller.legal liegt darin ein wesentlicher Unterschied zum bisherigen Regulierungsansatz: Aus allgemeinen Schutzpflichten und regulatorischen Leitlinien würden für bestimmte Dienste detaillierte Vorgaben für konkrete Produktfunktionen.

Compliance-Pläne und Bußgelder bis sechs Prozent

Für sehr große Online-Plattformen im Sinne des DSA sieht der Entwurf zusätzliche Pflichten vor. Sie sollen einen detaillierten Compliance-Plan vorlegen und diesen auf eigene Kosten von unabhängigen Prüfern untersuchen lassen. Die Prüfer müssen unter anderem Expertise im Kinderschutz, in Kinderpsychiatrie, Entwicklungswissenschaften, Alterskontrolle, Datenschutz sowie bei Online-Oberflächen und Empfehlungssystemen besitzen.

Für die Durchsetzung verzichtet der Entwurf auf ein eigenständiges Sanktionsregime und greift stattdessen auf die bestehenden Strukturen aus DSA und AI Act zurück (Art. 34): Für Plattformen, die bereits dem DSA unterliegen, bleibt dessen Bußgeldrahmen maßgeblich – die Kommission nennt hier eine mögliche Sanktionshöhe von bis zu sechs Prozent des weltweiten Jahresumsatzes. Für Anbieter von KI-Begleitern und allgemeinen Chatbots ist dagegen das Sanktionsregime des AI Act einschlägig, dessen Marktüberwachungsbehörden für die Durchsetzung zuständig sind.

Noch ist der EU KIDS Act kein geltendes Recht

Der Entwurf wird nun im ordentlichen Gesetzgebungsverfahren vom Europäischen Parlament und vom Rat beraten. Wortlaut, Pflichten und Fristen können sich dabei noch ändern.

Auch der vorgelegte Kommissionstext trägt erkennbar noch Spuren eines Entwurfsstadiums. Einzelne Verfahrensfristen stehen weiterhin in eckigen Klammern. Im Finanzteil wird zudem noch die frühere Bezeichnung „Child Online Safety and Rights Act (CARE)“ verwendet.

Eine konkrete Anwendungspflicht für Unternehmen besteht aus dem KIDS Act daher derzeit noch nicht. Nach dem gegenwärtigen Art. 43 soll die Verordnung grundsätzlich sechs Monate nach ihrem Inkrafttreten anwendbar werden. Wann das sein könnte, steht vor Abschluss des Gesetzgebungsverfahrens nicht fest.

Der vollständige Vorschlag ist als COM(2026) 681 final, Verfahren 2026/0286(COD) bei EUR-Lex veröffentlicht. → Zum Volltext des Kommissionsvorschlags bei EUR-Lex

Fragen zum KIDS Act, DSA oder AI Act?

Sie betreiben eine Plattform, einen digitalen Dienst oder setzen KI-Systeme ein und möchten klären, welche europäischen Vorgaben für Ihr Angebot relevant sind? Besprechen Sie die nächsten Schritte mit uns in einem Erstgespräch. Kostenfrei – wie für alle unsere Mandanten.