Umsetzung der EU-Vorgaben: Claudes Wasserzeichen lässt sich kaum entfernen

Was geschehen ist – die Kernmeldung

Seit dem 2. August 2026 hat das KI-Unternehmen Anthropic eine signifikante Änderung in der Funktionsweise seines Sprachmodells Claude vorgenommen. Um den wachsenden Anforderungen an Transparenz und Kennzeichnungspflichten gerecht zu werden, werden sämtliche von der KI generierten Textinhalte nun mit einem digitalen Wasserzeichen versehen. Ergänzend dazu integriert das Unternehmen C2PA-Metadaten, die dazu dienen, die Herkunft der Inhalte eindeutig zu identifizieren. Anthropic hat nun detaillierte Einblicke in die technische Umsetzung dieses Verfahrens gewährt, um auf die öffentliche Debatte über die Nachvollziehbarkeit von KI-generierten Texten zu reagieren. Die Implementierung erfolgt dabei nicht durch eine nachträgliche Bearbeitung der fertigen Texte, sondern greift direkt in den Entstehungsprozess der Sprachausgabe ein. Ziel ist es, eine verlässliche Methode zu etablieren, die es ermöglicht, KI-Inhalte auch dann noch als solche zu identifizieren, wenn sie kopiert oder leicht modifiziert wurden. Diese Maßnahme steht im Kontext der Umsetzung von EU-Vorgaben, die eine klare Kennzeichnung von KI-generierten Inhalten fordern, um Nutzer vor Täuschung zu schützen und die Integrität digitaler Informationen zu wahren.

Die Einzelheiten der technischen Umsetzung

Die technische Basis für das neue Wasserzeichen von Claude bildet das Verfahren SynthID-Text, das von Google Deepmind entwickelt wurde. Die theoretischen Grundlagen hierfür gehen auf eine Idee des Informatikers Scott Aaronson aus dem Jahr 2022 zurück. Im Kern ersetzt Anthropic den herkömmlichen Zufallsgenerator, der normalerweise bei der Auswahl von Wörtern innerhalb eines Sprachmodells zum Einsatz kommt, durch einen speziellen kryptografischen Schlüssel. Sprachmodelle wie Claude sind darauf trainiert, Wort für Wort aus verschiedenen statistisch wahrscheinlichen Varianten zu wählen. Wenn mehrere Begriffe semantisch gleichwertig sind, entscheidet normalerweise ein Zufallsalgorithmus über die Wahl. Durch den Einsatz des kryptografischen Schlüssels wird dieser Zufallsprozess in ein deterministisches Muster überführt. Die Wortwahl bleibt inhaltlich sinnvoll und behält die Qualität der KI-Ausgabe bei, folgt jedoch einer mathematischen Struktur, die mit dem passenden Schlüssel jederzeit verifiziert werden kann. Anthropic betont, dass dieses Verfahren weder die Geschwindigkeit der Textgenerierung beeinträchtigt noch zusätzliche Tokens verbraucht, was die Effizienz des Modells im Alltag nahezu unberührt lässt.

Hintergrund und bisheriger Verlauf

Die Einführung dieser Kennzeichnungspflicht ist kein isoliertes Ereignis, sondern das Ergebnis einer längeren Entwicklung innerhalb der KI-Branche. Die Diskussion um die Kennzeichnung von KI-Inhalten wurde durch die EU-Regulierungen maßgeblich vorangetrieben. Anthropic hatte bereits im Vorfeld angekündigt, an Lösungen für die Identifizierbarkeit zu arbeiten. Dass nun das SynthID-Verfahren zum Einsatz kommt, zeigt die Vernetzung der verschiedenen Akteure im Bereich der Künstlichen Intelligenz. Die Entscheidung, auf eine bereits existierende Technologie von Google Deepmind zu setzen, unterstreicht den Wunsch nach einer industrieweiten Standardisierung. Lange Zeit war die Frage, wie man Texte, die von einer KI verfasst wurden, sicher von menschlichen Texten unterscheiden kann, eine der größten Herausforderungen für Sicherheitsexperten und Plattformbetreiber. Die bisherigen Methoden, wie etwa einfache statistische Analysen der Wortwahl, waren oft ungenau und anfällig für Fehlinterpretationen. Mit dem nun gewählten Ansatz der kryptografischen Signatur im Entstehungsprozess hofft Anthropic, eine robustere Lösung gefunden zu haben, die auch bei komplexeren Texten eine hohe Erkennungsrate bietet.

Die Beteiligten und ihre Positionen

Zu den zentralen Akteuren in diesem Prozess gehört das Unternehmen Anthropic, das für die Implementierung der Wasserzeichen in Claude verantwortlich zeichnet. Auf der technologischen Seite spielt Google Deepmind eine entscheidende Rolle, da deren SynthID-Verfahren die Basis der Implementierung darstellt. Der Informatiker Scott Aaronson wird als geistiger Urheber des zugrunde liegenden Konzepts genannt. Auf der anderen Seite stehen externe Kritiker wie Alex Cui, Mitgründer des KI-Erkennungsdienstes GPTZero. Cui äußert sich skeptisch gegenüber der Sicherheit solcher Wasserzeichen und verweist darauf, dass das SynthID-Prinzip bei starker Umformulierung theoretisch ausgehebelt werden könnte. Er führt an, dass bereits frei verfügbare Tools existieren, die Googles SynthID-Verfahren in anderen Kontexten umgangen haben. Anthropic entgegnet diesen Bedenken, dass die konkrete Implementierung und der spezifische kryptografische Schlüssel, die bei Claude verwendet werden, nicht öffentlich zugänglich sind. Dies mache die Kritik von außen schwer verifizierbar, da die konkrete Sicherheitsarchitektur von Claude nicht identisch mit den öffentlich bekannten Test-Implementierungen von SynthID sein muss.

Einordnung der Wirksamkeit

Einzuordnen ist das Wasserzeichen-Verfahren als eine statistische Methode, die ihre Grenzen dort findet, wo der Spielraum für alternative Wortwahlen schwindet. Anthropic räumt offen ein, dass bei kurzen Texten, rein faktischen Aufzählungen oder bei der Generierung von Programmcode nur sehr wenige gleichwertige Wortalternativen existieren. In diesen Fällen bleibt dem Modell kaum Raum, um das charakteristische Muster des Wasserzeichens einzubetten, was die Nachweisbarkeit erschwert. Ähnlich verhält es sich, wenn Claude lediglich als Korrekturinstanz für bereits existierende menschliche Texte dient; hier sind die Eingriffe der KI oft zu gering, um ein verlässliches Muster zu erzeugen. Einzuordnen ist das System daher nicht als unfehlbare Sicherheitsbarriere, sondern als ein Werkzeug, das bei längeren, kreativen Texten sehr zuverlässig funktioniert. Anthropic betont zudem, dass das Wasserzeichen keine personenbezogenen Daten enthält. Es lassen sich daraus keine Rückschlüsse auf die Identität des Nutzers, die Organisation oder den spezifischen Chatverlauf ziehen. Eine vollständige Entfernung des Wasserzeichens würde laut Anthropic bedeuten, dass man praktisch jedes einzelne Wort eines Textes manuell austauschen müsste – was den Text inhaltlich so stark verändern würde, dass er kaum noch als das Originalprodukt der KI bezeichnet werden könnte.

Offene Fragen und Lücken im System

Trotz der detaillierten Erläuterungen von Anthropic bleiben einige wesentliche Fragen unbeantwortet. Eine der größten Lücken ist das Fehlen einer öffentlich zugänglichen Schnittstelle zur Überprüfung der Wasserzeichen. Anthropic gibt an, dass eine solche Schnittstelle derzeit noch in der Ausarbeitung befindlich ist, nennt jedoch keinen konkreten Zeitrahmen für deren Veröffentlichung. Ohne ein solches Tool können Dritte, wie etwa Redaktionen oder Bildungseinrichtungen, die Echtheit eines Textes nicht selbstständig verifizieren. Zudem bleibt unklar, wie das System mit Übersetzungen umgeht, die zwar laut Anthropic stets ein Wasserzeichen tragen, bei denen aber die sprachliche Struktur durch die Zielsprache stark vorgegeben ist. Auch die Frage, wie robust das System gegenüber automatisierten Umformulierungstools (sogenannten Paraphrasern) ist, bleibt Gegenstand der Spekulation. Während Anthropic von einer hohen Sicherheit ausgeht, liefern die Aussagen von Kritikern wie Alex Cui ein anderes Bild, das auf die theoretische Anfälligkeit des SynthID-Verfahrens hinweist. Die Diskrepanz zwischen der unternehmenseigenen Einschätzung und der externen Kritik kann derzeit mangels öffentlicher Testmöglichkeiten nicht aufgelöst werden.

Wie es weitergeht

Die nächsten Schritte bei Anthropic konzentrieren sich primär auf die Fertigstellung der Schnittstelle zur Verifizierung der Wasserzeichen. Sobald diese verfügbar ist, wird sich zeigen, wie praxistauglich die Technologie in der täglichen Arbeit von Redaktionen und anderen Institutionen tatsächlich ist. Der Zeitplan für die Freigabe dieser Schnittstelle ist jedoch noch offen. Es ist davon auszugehen, dass die Debatte um die Sicherheit und Manipulierbarkeit von KI-generierten Inhalten weiter anhalten wird, insbesondere da die EU-Vorgaben eine kontinuierliche Anpassung der Kennzeichnungstechniken erfordern könnten. Anthropic hat angekündigt, die Entwicklung der Wasserzeichen-Technologie weiter zu beobachten und gegebenenfalls anzupassen, sollte sich herausstellen, dass die aktuelle Implementierung in der Praxis zu leicht umgangen werden kann. Nutzer und Unternehmen müssen sich darauf einstellen, dass die Kennzeichnung von KI-Inhalten ein dynamisches Feld bleibt, in dem sich technologische Schutzmaßnahmen und Methoden zu deren Umgehung in einem ständigen Wettlauf befinden werden.