Privacy Gateway: Dieser Filter entfernt sensible Daten, bevor sie ChatGPT erreichen

Was geschehen ist: Ein neuer Schutzschild für die KI-Nutzung

Im Bereich der Künstlichen Intelligenz hat sich ein gravierendes Problem etabliert, das viele Nutzer im Alltag unterschätzen: die unbewusste Preisgabe sensibler Informationen bei der Interaktion mit Chatbots wie ChatGPT, Perplexity oder Copilot. Ein Forschungsteam der Fernuniversität Hagen, bestehend aus dem Doktoranden Pascal Tippe und dem Masterstudenten Michael Maximilian Grötzner, hat nun eine technologische Lösung präsentiert, die dieses Risiko adressieren soll. Das sogenannte „Privacy Gateway“ fungiert als intelligenter Filter, der zwischen den Anwendern und den KI-Modellen geschaltet ist. Die Kernaufgabe dieses Systems besteht darin, sensible Daten – seien es personenbezogene Informationen oder Geschäftsgeheimnisse – automatisch zu identifizieren und zu entfernen, noch bevor die Anfrage das Sprachmodell erreicht. Damit soll verhindert werden, dass vertrauliche Inhalte an Tech-Konzerne in den USA oder China abfließen, wo sie unter Umständen zum weiteren Training der Modelle genutzt oder durch Sicherheitslücken gefährdet werden könnten. Das System ist als Antwort auf die wachsende Nutzung von KI-Tools in Deutschland konzipiert, wo laut einer Bitkom-Umfrage bereits rund ein Drittel der Menschen mindestens einmal wöchentlich auf solche Technologien zurückgreift, um Produktivität im Arbeitsalltag zu steigern.

Die Einzelheiten: Funktionsweise und technischer Ansatz

Das Privacy Gateway unterscheidet sich grundlegend von herkömmlichen Filtermethoden, die lediglich auf das Schwärzen von fest definierten Begriffen oder Zahlenfolgen setzen. Pascal Tippe und Michael Maximilian Grötzner haben für ihr Projekt ein sogenanntes „Codebook“ entwickelt. Dieses bildet das Herzstück der Anwendung und übersetzt komplexe rechtliche Vorgaben in konkrete Anweisungen für das System. Dabei wurden insbesondere die Artikel 4 und 9 der Datenschutz-Grundverordnung (DSGVO) sowie das deutsche Geschäftsgeheimnis als Grundlage herangezogen. Anstatt nur isolierte Wörter zu erkennen, bewertet das Gateway den gesamten Kontext einer Anfrage. Dies ermöglicht es der Software, nicht nur zu identifizieren, welche Daten geschützt werden müssen, sondern auch zu begründen, warum dies geschieht. In einer begleitenden Studie testete das Team den Prototyp anhand eines umfangreichen Datensatzes, der verschiedene Alltagsszenarien abbildet. Ziel war es, die Zuverlässigkeit der Anonymisierung zu prüfen und gleichzeitig zu messen, wie stark die Qualität der KI-Antworten durch den Filterprozess beeinträchtigt wird. Die Ergebnisse zeigen, dass eine Balance zwischen Datenschutz und Funktionalität nicht immer leicht zu erreichen ist, da bei hochsensiblen Inhalten – etwa bei medizinischen Diagnosen – der Informationsverlust für die KI-Antwort signifikant sein kann.

Hintergrund: Warum der Schutz so dringend ist

Die Notwendigkeit für eine solche Entwicklung ergibt sich aus der Art und Weise, wie moderne Sprachmodelle funktionieren und wie Nutzer mit ihnen umgehen. Viele Anwender nutzen KI-Tools, um E-Mails zu formulieren oder umfangreiche Dokumente auszuwerten. Dabei werden oft unbewusst Informationen geteilt, die Rückschlüsse auf die Identität, Interessen oder Gewohnheiten von Personen zulassen. Pascal Tippe betont, dass aus vielen scheinbar harmlosen Einzelangaben über die Zeit detaillierte persönliche Profile entstehen können. Das Risiko ist dabei zweifach: Einerseits besteht die Gefahr eines Hackerangriffs auf die KI-Systeme, bei dem die Daten in falsche Hände geraten könnten. Andererseits werden die eingegebenen Daten häufig zum Training der Modelle verwendet. Dies bedeutet, dass sensible Informationen unter Umständen in späteren Antworten an andere Nutzer weltweit wieder auftauchen könnten. Besonders im beruflichen Kontext ist dies problematisch, da oft Daten von Kunden, Kollegen oder Familienmitgliedern verarbeitet werden, ohne dass diese einer Weitergabe zugestimmt haben. Ein generelles Verbot von KI-Tools lehnen die Forscher aus Hagen jedoch ab, da dies zu massiven Produktivitätseinbußen führen würde und die Praxis ohnehin kaum zu unterbinden wäre.

Die Beteiligten: Akteure und Institutionen

Im Zentrum der Entwicklung stehen Pascal Tippe, der als Doktorand an der Fernuniversität Hagen forscht, und sein Kollege, der Masterstudent Michael Maximilian Grötzner. Die beiden haben den Prototyp des Privacy Gateways gemeinsam konzipiert und im Rahmen ihrer wissenschaftlichen Arbeit evaluiert. Die Fernuniversität Hagen fungiert dabei als institutioneller Rahmen für die Forschung. Die Grundlage für die Notwendigkeit ihrer Arbeit lieferten unter anderem Daten des Digitalverbands Bitkom, dessen Umfragen die weite Verbreitung von KI-Tools in Deutschland belegen. Die von den Forschern adressierten rechtlichen Rahmenbedingungen beziehen sich auf die Datenschutz-Grundverordnung (DSGVO) und das deutsche Geschäftsgeheimnis, was den Fokus auf die Einhaltung europäischer und deutscher Rechtsnormen unterstreicht. Die Nutzer, die von diesem System profitieren sollen, sind primär Beschäftigte in Unternehmen, die KI-Tools zur Effizienzsteigerung einsetzen, aber gleichzeitig den strengen Anforderungen des Datenschutzes gerecht werden müssen. Die betroffenen Tech-Konzerne, deren Modelle durch das Gateway geschützt werden sollen, werden im Bericht als Akteure in den USA oder China identifiziert, die von den eingegebenen Daten potenziell profitieren oder diese speichern.

Einordnung: Datenschutz versus Nutzbarkeit

Einzuordnen ist das Privacy Gateway als ein Versuch, die Lücke zwischen technologischer Innovation und rechtlicher Compliance zu schließen. Den Berichten zufolge stellt das System einen Fortschritt dar, da es über einfache Blacklist-Filter hinausgeht und den Kontext einer Anfrage versteht. Dennoch bleibt die Herausforderung bestehen, dass Datenschutz und Nutzbarkeit nicht immer vollständig miteinander vereinbar sind. Die Forscher räumen offen ein, dass bei Anfragen mit einer extrem hohen Dichte an personenbezogenen Daten – beispielsweise bei einer detaillierten medizinischen Analyse – die Anonymisierung zu einem Qualitätsverlust bei der KI-Antwort führt. Das System entfernt in solchen Fällen Informationen, die für die KI eigentlich notwendig wären, um eine präzise Antwort zu formulieren. Diese Abwägung ist ein zentrales Dilemma der aktuellen KI-Entwicklung. Das Privacy Gateway zeigt jedoch einen Weg auf, wie Unternehmen die Vorteile generativer KI nutzen können, ohne dabei ihre rechtlichen Verpflichtungen zu verletzen. Es ist laut der Einschätzung der Entwickler ein notwendiges Werkzeug, um die Akzeptanz und Sicherheit von KI-Anwendungen in einer datenschutzsensiblen Umgebung wie Deutschland zu erhöhen.

Offene Fragen: Was noch geklärt werden muss

Der vorliegende Quelltext lässt einige Aspekte der praktischen Anwendung des Privacy Gateways offen. So wird nicht explizit erläutert, wie das System in bestehende IT-Infrastrukturen von Unternehmen integriert werden kann oder ob es als eigenständige Softwarelösung oder Cloud-Dienst geplant ist. Auch die Frage nach der Skalierbarkeit des Systems wird nicht beantwortet: Kann das Gateway eine große Anzahl an gleichzeitigen Anfragen in einem Großunternehmen ohne spürbare Latenzzeiten verarbeiten? Des Weiteren bleibt unklar, wie genau die „Rechtfertigung“ des Filters für den Nutzer sichtbar gemacht wird und ob dieser in den Prozess eingreifen kann, falls der Filter zu viel oder zu wenig entfernt. Auch die wirtschaftliche Komponente – etwa ob ein solches System für Unternehmen kostenpflichtig sein wird oder als Open-Source-Lösung zur Verfügung steht – wird im Text nicht thematisiert. Zudem wird nicht spezifiziert, welche spezifischen KI-Modelle neben ChatGPT mit dem Gateway kompatibel sind und ob die Filterleistung je nach Modell variiert.