Was weiß ChatGPT über mich? Dieses Tool wertet deine Chats aus

Was geschehen ist: Transparenz für KI-Nutzer

Immer mehr Menschen nutzen Künstliche Intelligenz als täglichen Begleiter für verschiedenste Lebensbereiche. Dabei werden häufig sensible Informationen preisgegeben, ohne dass sich Nutzer der langfristigen Konsequenzen bewusst sind. Um hier ein Bewusstsein zu schaffen, hat das Schweizer Unternehmen Proton ein neues Analyse-Tool namens „AI Paper Trail“ veröffentlicht. Dieses Werkzeug ermöglicht es Anwendern, ihre eigenen Chatverläufe von den populären Diensten ChatGPT und Claude zu untersuchen. Ziel ist es, transparent zu machen, welche persönlichen Details, Interessen und Verhaltensweisen die KI-Modelle aus den Konversationen ableiten könnten. Das Tool bereitet diese Daten in einer übersichtlichen Form auf und bewertet das sogenannte „Privacy Exposure“, also das Ausmaß, in dem die Privatsphäre durch die Interaktion mit der KI potenziell gefährdet ist. Damit reagiert Proton auf die wachsende Sorge vieler Nutzer, dass ihre Daten bei den großen KI-Anbietern nicht sicher sind oder für unerwünschte Profilbildungen missbraucht werden könnten.

Die Einzelheiten: Funktionsweise und Datenauswertung

Die Nutzung von AI Paper Trail erfordert zunächst einen manuellen Datenexport bei den jeweiligen Anbietern. Nutzer müssen bei ChatGPT über die Profileinstellungen und den Bereich „Datenkontrolle“ einen Export anfordern. Ähnlich verhält es sich bei Claude, wo der Export über die Datenschutz-Einstellungen initiiert wird. Da die Anbieter die Daten erst aufbereiten müssen, erhalten Nutzer den Download-Link in der Regel erst nach einer gewissen Wartezeit per E-Mail. Sobald die Zip- oder JSON-Dateien vorliegen, können diese im Browser in das Proton-Tool hochgeladen werden. Ein technisches Hindernis besteht darin, dass pro Durchlauf nur eine Datei verarbeitet werden kann, was bei umfangreichen Chat-Historien zu unterschiedlichen Ergebnissen führen kann. Das Tool vergibt einen „Privacy Exposure“-Score von 0 bis 100 und schätzt zudem den monetären Wert der Daten für den KI-Anbieter ein. In einem Testbeispiel wurde dieser Wert für einen durchschnittlichen Nutzer auf etwa 15 US-Dollar taxiert, während bei intensiverer Nutzung, etwa für ein Sportprojekt, deutlich mehr Warnsignale hinsichtlich Ernährung und Gesundheitsdaten erkannt wurden.

Hintergrund: Sorgen um die Datensicherheit

Die Relevanz dieses Themas wird durch eine Umfrage des Branchenverbandes Bitkom untermauert, an der 1.003 Personen ab 16 Jahren teilnahmen. Die Ergebnisse zeigen, dass 34 Prozent der KI-Nutzer die Technologie sogar für gesundheitliche Fragen verwenden. Gleichzeitig äußern 43 Prozent der Befragten die Befürchtung, dass ihre persönlichen Daten bei den KI-Unternehmen nicht hinreichend geschützt sind. Diese Sorgen sind nicht unbegründet, da OpenAI und Anthropic zwar betonen, keine Profile für Werbezwecke zu erstellen, die Daten jedoch je nach Einstellung für das Modelltraining verwendet werden können. Zudem besteht bei Sicherheitslücken immer das Risiko eines Abflusses an Dritte. Die Anbieter räumen ein, dass Daten auch nach dem Löschen durch den Nutzer auf den Servern verbleiben können, etwa wenn sie de-identifiziert wurden oder rechtliche Aufbewahrungspflichten bestehen. Das Tool von Proton soll genau diese abstrakte Gefahr greifbar machen und Nutzer dazu bewegen, sparsamer mit sensiblen Informationen in Chatbots umzugehen.

Die Beteiligten: Akteure und ihre Rollen

Im Zentrum stehen die KI-Anbieter OpenAI (ChatGPT) und Anthropic (Claude), deren Systeme die Daten verarbeiten und speichern. Auf der anderen Seite steht das Schweizer Unternehmen Proton, das mit AI Paper Trail ein Werkzeug zur Analyse bereitstellt. Proton verfolgt dabei eigene strategische Interessen, da das Unternehmen mit „Lumo“ einen eigenen KI-Chatbot anbietet, der sich durch besondere Datenschutzversprechen von der Konkurrenz abheben soll. Zudem sind die Nutzer selbst die Hauptakteure, da sie durch ihre Eingaben bestimmen, welche Informationen in die Systeme fließen. Der Bitkom-Verband fungiert als Beobachter, der durch seine Umfragen die gesellschaftliche Stimmung und das Nutzungsverhalten im Bereich der Künstlichen Intelligenz dokumentiert. Die Schweizer Behörden spielen ebenfalls eine Rolle, da sie im Rahmen von Rechtshilfeverfahren auf Daten von Unternehmen wie Proton zugreifen können, was die Debatte um absolute Sicherheit bei digitalen Diensten zusätzlich komplex macht.

Einordnung: Was die Ergebnisse bedeuten

Einzuordnen ist das Tool von Proton als pädagogisches Instrument. Es zeigt zwar auf, welche Informationen theoretisch aus den Chats abgeleitet werden können, doch es handelt sich dabei um eine Analyse der Eingaben, nicht um einen direkten Einblick in den internen Speicher der KI-Modelle. Den Berichten zufolge können die KI-Anbieter aus den bereitgestellten Informationen Profile erstellen, die für Targeting oder automatisierte Entscheidungen genutzt werden könnten. Proton warnt explizit davor, dass dies oft ohne explizite Einwilligung oder Transparenz geschieht. Es ist jedoch wichtig zu unterscheiden: Das Tool zeigt auf, was man selbst preisgegeben hat, nicht zwingend, was die KI dauerhaft „gelernt“ hat. Die Einstufung als „Hard to read“ oder „Privacy Exposure“-Scores sind daher als Orientierungshilfen zu verstehen, die das Bewusstsein für digitale Hygiene schärfen sollen. Es ist ein Aufruf zur Vorsicht, da die Grenze zwischen hilfreichem Dialog und riskantem Datentransfer bei Chatbots oft verschwimmt.

Offene Fragen: Wo die Analyse an ihre Grenzen stößt

Obwohl AI Paper Trail einen wertvollen Einblick bietet, bleiben wesentliche Fragen unbeantwortet. Der Quelltext verdeutlicht, dass das Tool lediglich die vom Nutzer exportierten Chat-Protokolle auswertet. Es kann jedoch nicht mit Sicherheit sagen, welche Informationen tatsächlich im „Erinnerungsspeicher“ der KI-Modelle verbleiben oder welche spezifischen Schlüsse die Betreiber hinter den Kulissen tatsächlich aus den Daten ziehen. Da die Algorithmen von OpenAI und Anthropic proprietär sind, bleibt ihre interne Datenverarbeitung eine Blackbox. Ebenso lässt sich nicht zweifelsfrei klären, wie die „de-identifizierten“ Daten, die nach dem Löschen auf den Servern verbleiben, in der Praxis weiterverarbeitet werden. Die tatsächliche technische Umsetzung der Datenspeicherung und die Tiefe des Profilings bei den Anbietern sind für Außenstehende nicht vollständig transparent nachvollziehbar, was eine Lücke zwischen der Analyse des Tools und der Realität der KI-Infrastruktur hinterlässt.

Wie es weitergeht: Empfehlungen für Nutzer

Für Anwender, die nach der Nutzung des Tools feststellen, dass sie zu viele sensible Informationen preisgegeben haben, bleibt als wichtigster Schritt die nachträgliche Löschung der Chatverläufe. Sowohl bei OpenAI als auch bei Anthropic ist dies möglich, wobei Nutzer beachten müssen, dass die Daten nicht sofort von allen Servern verschwinden. Die generelle Empfehlung lautet, strikt auf die Eingabe von medizinischen, finanziellen oder arbeitsplatzbezogenen Informationen zu verzichten. Adressen, Telefonnummern und Passwörter sollten in keinem Fall in Chatbots eingegeben werden. Da Proton mit dem AI Paper Trail auch auf seinen eigenen Dienst Lumo aufmerksam macht, ist davon auszugehen, dass das Unternehmen die Debatte um Datenschutz bei KI-Anbietern weiter befeuern wird. Nutzer sollten die Transparenzberichte der Anbieter im Auge behalten, um zu verstehen, wie sich die rechtlichen Rahmenbedingungen für den Datenzugriff durch Behörden entwickeln, da dies ein zentraler Punkt für die langfristige Vertrauenswürdigkeit solcher Dienste bleibt.