KI-Sicherheit: Neuer Filter schützt sensible Daten vor ChatGPT

Was geschehen ist – die Kernmeldung ausführlich

Ein Forschungsteam der Fernuniversität Hagen hat einen neuartigen Schutzmechanismus für die Arbeit mit generativen KI-Systemen wie ChatGPT, Perplexity oder Copilot entwickelt. In einer Zeit, in der rund ein Drittel der deutschen Bevölkerung mindestens einmal wöchentlich auf KI-Tools zurückgreift, um Produktivität zu steigern, E-Mails zu formulieren oder komplexe Dokumente auszuwerten, wächst die Sorge um den Datenschutz. Oftmals geben Nutzer unbewusst sensible Informationen preis, die an Tech-Konzerne in den USA oder China übertragen werden. Pascal Tippe, Doktorand an der Fernuniversität Hagen, und der Masterstudent Michael Maximilian Grötzner haben nun ein sogenanntes „Privacy Gateway“ als Prototyp vorgestellt. Dieses System fungiert als intelligenter Vermittler zwischen dem Anwender und dem Sprachmodell. Es erkennt sensible Inhalte automatisch und entfernt diese, bevor sie den Server des KI-Anbieters erreichen. Damit adressieren die Forscher ein zentrales Problem: Die unkontrollierte Preisgabe persönlicher oder geschäftlicher Daten, die nicht nur gegen Datenschutzvorgaben verstoßen kann, sondern auch dazu dient, die KI-Modelle weiter zu trainieren, was wiederum das Risiko birgt, dass diese Daten später anderen Nutzern gegenüber offenbart werden.

Die Einzelheiten – Zahlen, Namen und Hintergründe

Die technologische Basis des Privacy Gateways unterscheidet sich grundlegend von bisherigen Ansätzen. Während herkömmliche Filter häufig lediglich nach fest definierten Begriffen oder Zahlenfolgen suchen, um diese zu schwärzen, verfolgt der Ansatz von Tippe und Grötzner eine kontextsensitive Strategie. Die Forscher haben ein sogenanntes „Codebook“ erstellt, in dem rechtliche Definitionen der Datenschutz-Grundverordnung (DSGVO) – insbesondere Artikel 4 und Artikel 9 – sowie Bestimmungen zum deutschen Geschäftsgeheimnis in eine umfassende Menge an Anweisungen übersetzt wurden. Dies ermöglicht es dem System, nicht nur isolierte Datenpunkte zu identifizieren, sondern den gesamten Kontext einer Anfrage zu bewerten. Pascal Tippe betont, dass bereits scheinbar harmlose Angaben ausreichen können, um durch die Aggregation über längere Zeiträume hinweg detaillierte Persönlichkeitsprofile zu erstellen. Solche Profile, die Interessen oder tägliche Gewohnheiten widerspiegeln, stellen ein erhebliches Sicherheitsrisiko dar, etwa im Falle eines Hackerangriffs auf die KI-Infrastrukturen. Besonders in einem Unternehmensumfeld ist die Problematik gravierend, da hier häufig Daten von Dritten – etwa von Kunden, Kollegen oder Familienmitgliedern – verarbeitet werden, ohne dass deren explizite Zustimmung vorliegt.

Hintergrund – Die Entstehung des Projekts

Die Motivation für die Entwicklung des Privacy Gateways entspringt der Erkenntnis, dass ein pauschales Verbot von generativer KI in der Arbeitswelt weder zielführend noch realistisch ist. Das Forschungsteam der Fernuniversität Hagen ist der festen Überzeugung, dass ein solches Verbot zu massiven Produktivitätseinbußen führen würde. Zudem sei davon auszugehen, dass Anwender die Werkzeuge ohnehin nutzen würden, ungeachtet etwaiger Verbote. Vor diesem Hintergrund suchten die Forscher nach einem Weg, die Vorteile von KI-Tools mit den Anforderungen an den Datenschutz in Einklang zu bringen. Die bisherige Praxis, bei der Eingaben oft ungefiltert in die Trainingsdaten der KI-Modelle einfließen, wurde als inakzeptables Risiko identifiziert. Das Privacy Gateway soll hier als notwendige Barriere dienen, um die Souveränität über sensible Informationen zu wahren, ohne die technologische Teilhabe einzuschränken. Die Entwicklung basiert auf der Analyse von Alltagsszenarien, die in einer Studie mit einem umfangreichen Datensatz erprobt wurden, um sowohl die Zuverlässigkeit der Anonymisierung als auch die Auswirkungen auf die Qualität der KI-generierten Antworten zu evaluieren.

Die Beteiligten – Institutionen und Akteure

Im Zentrum der Entwicklung stehen Pascal Tippe, Doktorand an der Fernuniversität Hagen, und sein Kollege, der Masterstudent Michael Maximilian Grötzner. Sie verantworten die Konzeption und die technische Umsetzung des Prototyps. Die Fernuniversität Hagen fungiert dabei als institutioneller Rahmen für die Forschung. Die Bitkom, deren repräsentative Umfrage die hohe Verbreitung von KI-Tools in Deutschland belegt, liefert den statistischen Kontext für die Relevanz des Themas. Die Zielgruppe, die von diesen Entwicklungen betroffen ist, umfasst sowohl Privatpersonen, die KI-Tools zur Effizienzsteigerung nutzen, als auch Unternehmen, die durch die unbedachte Eingabe von Geschäftsgeheimnissen oder personenbezogenen Daten Dritter in rechtliche Konflikte geraten könnten. Die Forschungsergebnisse richten sich somit an eine breite Nutzerschaft, die auf die Sicherheit ihrer Daten angewiesen ist, sowie an Entscheidungsträger, die den Einsatz von KI-Technologien in ihren Organisationen unter Einhaltung der geltenden Datenschutzvorgaben wie der DSGVO regulieren müssen.

Einordnung – Die Bedeutung der Entwicklung

Einzuordnen ist das Privacy Gateway als ein notwendiger Brückenschlag zwischen technologischer Innovation und rechtlicher Compliance. Den Berichten zufolge stellt das System einen Fortschritt dar, da es die Schwächen rein regelbasierter Filter überwindet. Dennoch zeigen die Ergebnisse der Studie deutlich auf, dass Datenschutz und die volle Nutzbarkeit von KI-Modellen nicht immer vollständig miteinander vereinbar sind. Pascal Tippe räumt ein, dass bei Prompts, die eine extrem hohe Dichte an personenbezogenen Daten enthalten – beispielsweise bei der Analyse komplexer medizinischer Diagnosen –, ein signifikanter Informationsverlust eintreten kann. Wenn das System diese Daten zum Schutz der Privatsphäre entfernt, sinkt zwangsläufig die Qualität der Antwort, da der KI die notwendige Grundlage für eine präzise Auswertung fehlt. Dies verdeutlicht, dass der Einsatz solcher Filter stets eine Abwägung zwischen dem Sicherheitsbedürfnis und dem Informationsgehalt der KI-Antwort erfordert. Es handelt sich somit um ein Werkzeug, das zwar Risiken minimiert, aber keine absolute verlustfreie Nutzung von KI bei hochsensiblen Daten garantieren kann.

Offene Fragen und wie es weitergeht

Der vorliegende Quelltext lässt einige Fragen offen, die für eine breite praktische Anwendung von entscheidender Bedeutung wären. So wird nicht konkretisiert, wie die Latenzzeiten des Systems aussehen, da das Privacy Gateway als zusätzliche Instanz zwischen Nutzer und KI geschaltet ist. Auch die Frage nach der Skalierbarkeit für unterschiedliche Unternehmensgrößen oder die Integration in bestehende Cloud-Infrastrukturen bleibt unbeantwortet. Zudem wird nicht explizit dargelegt, welche konkreten nächsten Schritte zur Marktreife des Prototyps geplant sind oder ob eine kommerzielle Ausgründung oder eine Open-Source-Veröffentlichung angestrebt wird. Auch bleibt offen, wie das System mit sich ständig ändernden KI-Modellen und deren spezifischen Prompting-Anforderungen umgeht. Da es sich um einen Prototyp handelt, sind die langfristigen Auswirkungen auf die Performance bei sehr komplexen, mehrstufigen Dialogen noch nicht abschließend geklärt. Es bleibt abzuwarten, ob weitere Studien die Robustheit des Filters gegenüber sogenannten „Jailbreak“-Versuchen oder anderen Manipulationsmethoden bestätigen können, die darauf abzielen, die Schutzmechanismen zu umgehen.