Jugendschutz - Neue Regeln für Chat GPT, Roblox und Reddit in der EU

Neue regulatorische Anforderungen für digitale Dienste

Die Europäische Union hat ihre Aufsicht über den digitalen Raum weiter verschärft und nimmt nun drei prominente US-amerikanische Dienste in die Pflicht. Wie aus Brüssel verlautete, müssen sich die Plattformen ChatGPT, das soziale Netzwerk Reddit sowie die Spieleplattform Roblox auf deutlich strengere Vorgaben im Bereich des Jugendschutzes einstellen. Diese Entscheidung ist die direkte Folge einer überschrittenen Nutzerzahlenschwelle, die diese Dienste rechtlich in eine neue Kategorie einordnet. Die Europäische Kommission hat die Betreiber offiziell darüber in Kenntnis gesetzt, dass sie fortan als sehr große Online-Plattformen oder Suchmaschinen eingestuft werden. Dies bringt eine Vielzahl an neuen Verpflichtungen mit sich, die insbesondere darauf abzielen, die Sicherheit der Nutzer zu erhöhen und den digitalen Raum innerhalb der EU sicherer zu gestalten. Die betroffenen Unternehmen stehen nun unter der direkten Aufsicht der europäischen Behörden, um sicherzustellen, dass sie den hohen Anforderungen des Digital Services Act, kurz DSA, vollumfänglich nachkommen.

Details zur Einstufung und den Nutzerzahlen

Die Grundlage für diese regulatorische Maßnahme bildet der Digital Services Act, der darauf abzielt, die Verantwortlichkeit großer Plattformen zu erhöhen. Die Einstufung als sehr große Online-Plattform erfolgt ab einer Schwelle von 45 Millionen monatlich aktiven Nutzern innerhalb der Europäischen Union. Dass ChatGPT, Reddit und Roblox diese Marke nun überschritten haben, unterstreicht die enorme Reichweite dieser Dienste im europäischen Alltag. Besonders bemerkenswert ist die Entwicklung bei OpenAI: Allein Ende März gab das Unternehmen an, dass die Nutzerzahl von ChatGPT in der EU bei über 159 Millionen liegt. Damit übertrifft der Dienst die kritische Schwelle deutlich. Die Europäische Kommission hat den betroffenen Anbietern nun eine Frist von vier Monaten eingeräumt, um ihre internen Prozesse und Sicherheitsvorkehrungen an die neuen gesetzlichen Rahmenbedingungen anzupassen. Sollten die Unternehmen diesen Anforderungen nicht gerecht werden, drohen empfindliche Sanktionen. Bei schweren oder wiederholten Verstößen gegen die Bestimmungen des DSA können die Behörden Geldstrafen verhängen, die bis zu sechs Prozent des weltweiten Jahresumsatzes der jeweiligen Unternehmen erreichen können.

Hintergrund und bisherige Entwicklung des DSA

Der Digital Services Act ist seit dem Jahr 2024 in Kraft und hat seitdem die Landschaft der digitalen Regulierung in Europa maßgeblich verändert. Das Ziel des Gesetzes ist es, die Verbreitung illegaler Inhalte konsequent zu unterbinden und insbesondere Minderjährige vor schädlichen Einflüssen im Netz zu bewahren. Seit der Einführung des Regelwerks wurde die Liste der betroffenen Dienste kontinuierlich erweitert. Inzwischen umfasst das Verzeichnis fast 30 verschiedene Online-Dienste, die aufgrund ihrer Größe und Marktmacht als systemrelevant für den europäischen digitalen Markt eingestuft wurden. Zu diesem Kreis zählen bereits namhafte Tech-Giganten wie Google, Meta und Microsoft. Auch die Wissensplattform Wikipedia ist bereits Teil dieser Liste. Mit der Aufnahme von ChatGPT betritt die EU insofern Neuland, als dass es sich hierbei um das erste KI-Sprachmodell handelt, das offiziell als sehr große Online-Plattform in den Anwendungsbereich des DSA fällt. Die EU hat bereits in der Vergangenheit zahlreiche Verfahren gegen andere Plattformen wie TikTok, Facebook, Instagram sowie diverse große Pornoplattformen eingeleitet, um die Einhaltung der strengen Vorgaben zu erzwingen.

Die Akteure und ihre Verantwortung

Die Entscheidung trifft drei der einflussreichsten Akteure des modernen Internets. OpenAI als Betreiber von ChatGPT, die Plattform Reddit und der Spieleanbieter Roblox sind nun direkt mit der Europäischen Kommission als Aufsichtsinstanz konfrontiert. Während die EU-Kommission die Rolle des Regulierers einnimmt, liegt die operative Verantwortung für die Umsetzung bei den Unternehmen selbst. Sie müssen nachweisen, dass sie über effektive Mechanismen zur Moderation von Inhalten verfügen und den Schutz von Minderjährigen priorisieren. Die Einstufung bedeutet für diese Firmen einen erheblichen administrativen Aufwand, da sie ihre Systeme an die europäischen Standards anpassen müssen. Dass nun auch ein KI-Modell wie ChatGPT unter diese Regulierung fällt, zeigt, dass die EU-Gesetzgeber gewillt sind, auch technologische Innovationen streng an die geltenden Jugendschutz- und Sicherheitsregeln zu binden, um den Risiken einer unkontrollierten Verbreitung von Inhalten entgegenzuwirken.

Einordnung der Maßnahmen und offene Fragen

Einzuordnen ist diese Entwicklung als konsequente Fortführung der europäischen Digitalpolitik, die darauf abzielt, die Macht großer Plattformen zu begrenzen und Nutzerrechte zu stärken. Den Berichten zufolge ist die Aufnahme von ChatGPT ein Signal, dass KI-Dienste nicht länger als rechtsfreie Räume betrachtet werden. Dennoch bleiben einige Fragen offen, die der aktuelle Quelltext nicht beantwortet. So ist beispielsweise unklar, welche spezifischen technischen Maßnahmen ChatGPT, Roblox und Reddit nun konkret umsetzen müssen, um den Jugendschutz zu gewährleisten. Auch bleibt abzuwarten, wie sich die viermonatige Übergangsfrist auf die tatsächliche Nutzung der Dienste auswirken wird und ob die Unternehmen bereits im Vorfeld Vorkehrungen getroffen haben. Ebenso wenig ist bekannt, welche internen Ressourcen die Unternehmen für die Compliance-Anforderungen bereitstellen müssen. Die kommenden Monate werden zeigen, wie die Plattformen auf den Druck aus Brüssel reagieren und ob die angekündigten Maßnahmen ausreichen, um die EU-Kommission zufrieden zu stellen.