WTF: Anthropic sagt, sein Wasserzeichen funktioniere. Vielleicht. Manchmal.

Die Umsetzung der Kennzeichnungspflicht durch Anthropic

Seit nunmehr zwei Wochen ist die neue Kennzeichnungspflicht für Inhalte, die mithilfe künstlicher Intelligenz erstellt wurden, innerhalb der Europäischen Union in Kraft getreten. Anthropic, das Unternehmen hinter dem Sprachmodell Claude, hat auf diese regulatorischen Anforderungen reagiert, allerdings mit einer zeitlichen Verzögerung, die angesichts der seit fünf Jahren bekannten Vorbereitungszeit für solche Gesetze bei vielen Beobachtern für Unverständnis sorgt. Die Art und Weise, wie Anthropic die Implementierung dieser Vorgaben kommuniziert und technisch umgesetzt hat, wird von Kritikern als stümperhaft eingestuft. Anstatt eine robuste und transparente Lösung zu präsentieren, hat das Unternehmen eine Maßnahme eingeführt, die in der Praxis kaum greifbar ist. Die Kennzeichnung erfolgt durch ein sogenanntes Wasserzeichen, das in die von Claude generierten Texte eingebettet werden soll. Dabei handelt es sich jedoch nicht um eine sichtbare Markierung, sondern um eine unsichtbare Signatur, die für den Endanwender weder erkennbar noch verifizierbar ist. Diese Vorgehensweise wirft grundlegende Fragen zur Effektivität der Maßnahme auf, da sie den Kern der regulatorischen Forderung – die klare Identifizierbarkeit von KI-generierten Inhalten – nur sehr unzureichend erfüllt.

Details zur technischen Implementierung und den FAQ-Angaben

Ein Blick in die offiziellen FAQs von Anthropic offenbart die technischen Unzulänglichkeiten der neuen Kennzeichnung. Auf die explizite Frage, was ein solches Wasserzeichen eigentlich belege, antwortet das Unternehmen in einer Weise, die wenig Vertrauen in die Zuverlässigkeit des Systems weckt. Das Wasserzeichen kann lediglich feststellen, dass Claude wahrscheinlich an einem bestimmten Punkt mit dem Inhalt in Berührung gekommen ist. Eine präzise Unterscheidung zwischen einem Text, der vollständig von der KI verfasst wurde, und einem Text, der lediglich durch die KI bearbeitet wurde, ist mit dem aktuellen System nicht möglich. Zudem existiert derzeit kein Werkzeug, mit dem externe Nutzer oder Behörden diese Wasserzeichen überhaupt prüfen könnten. Anthropic verweist hierbei lediglich auf eine vage Zukunftsperspektive, in der eine API zur Erkennung der Wasserzeichen bereitgestellt werden soll. Details zur konkreten Umsetzung, zur Verfügbarkeit dieser API oder dazu, ob sie überhaupt öffentlich zugänglich sein wird, bleiben das Unternehmen und sein Blog derzeit schuldig. Das System gleicht somit einer Blackbox, bei der sich die Nutzer auf das Versprechen des Herstellers verlassen müssen, ohne die behauptete Kennzeichnung jemals selbst validieren zu können.

Der technologische Hintergrund und das Konzept der Wasserzeichen

Die technologische Basis für das Vorhaben von Anthropic stützt sich auf das Konzept SynthID, welches vor etwa zwei Jahren von Google vorgestellt wurde. Während für Bilder andere Verfahren zum Einsatz kommen, versucht Anthropic nun, dieses Prinzip auf Textinhalte zu übertragen. Dabei zeigt sich ein fundamentales Problem der digitalen Welt: Ein Wasserzeichen im klassischen Sinne, wie man es von Papierdokumenten oder Geldscheinen kennt, ist untrennbar mit dem physischen Trägermedium verbunden. Bei digitalem Text hingegen ist die Information entkoppelt. Ein Nutzer kann einen Text kopieren, einfügen und beliebig weiterverarbeiten, wodurch die ursprüngliche Quelle und damit auch das unsichtbare Wasserzeichen ihre Integrität verlieren oder schlicht ignoriert werden können. Da Text im Gegensatz zu physischen Dokumenten nicht an ein spezielles Sicherheitsmedium gebunden ist, bleibt die Kennzeichnung in der digitalen Umgebung ein fragiles Konstrukt. Die Annahme, man könne die Herkunft eines Textes durch eine unsichtbare Signatur zuverlässig nachweisen, scheint vor diesem Hintergrund technisch kaum haltbar zu sein, was die Kritik an der gewählten Strategie von Anthropic weiter untermauert.

Die betroffenen Akteure und die globale Dimension der Maßnahme

Von der Einführung dieser Wasserzeichen sind nicht nur Nutzer innerhalb der Europäischen Union betroffen, sondern Anwender weltweit. Anthropic hat sich dazu entschieden, die Maßnahme nicht regional zu begrenzen, was zu einer Welle des Unmuts geführt hat, insbesondere bei der Nutzerschaft in den Vereinigten Staaten. Berichte von Gizmodo und Business Insider verdeutlichen, dass viele Anwender die Kennzeichnung als störend empfinden. Es gibt bereits zahlreiche Berichte über Nutzer, die ihre Abonnements bei Claude aufgrund dieser Neuerung gekündigt haben. Besonders Programmierer äußern Bedenken, da sie befürchten, dass ihr Code, sobald er durch Claude optimiert oder generiert wurde, als KI-Produkt gebrandmarkt wird, was sie bei der Veröffentlichung ihrer Arbeit vermeiden möchten. Diese Nutzer reagieren mit dem Wechsel zu anderen KI-Anbietern, die solche Kennzeichnungen entweder nicht oder weniger invasiv implementieren. Die Entscheidung von Anthropic, das Wasserzeichen weltweit auszurollen, hat somit zu einer direkten Abwanderung von Kunden geführt, die sich durch die erzwungene Kennzeichnung in ihrer Arbeit eingeschränkt oder bevormundet fühlen.

Einordnung der Strategie als Malicious Compliance

In der Fachwelt wird das Vorgehen von Anthropic zunehmend als ein Paradebeispiel für sogenannte Malicious Compliance eingeordnet. Dieser Begriff beschreibt eine Situation, in der ein Unternehmen regulatorische Vorgaben zwar dem Wortlaut nach erfüllt, dies jedoch auf eine derart destruktive oder ineffektive Weise tut, dass die Regulierung selbst in ein schlechtes Licht gerückt wird. Indem Anthropic eine technisch unausgereifte und für die Öffentlichkeit nicht prüfbare Lösung implementiert, provoziert das Unternehmen Nebeneffekte, die den Nutzen der Kennzeichnungspflicht infrage stellen. Der KI-Wissenschaftler Lance Eliot warnt in seiner Kolumne bei Forbes zudem vor einer regelrechten Flut an betrügerischen Tools, die versprechen, die Wasserzeichen wieder zu entfernen. Er spricht von Lügen und Betrugsmaschen, die durch die Kennzeichnung erst provoziert werden könnten. Einzuordnen ist das so: Anstatt eine ehrliche Debatte mit der EU über die praktische Machbarkeit der Anforderungen zu suchen, hat sich das Unternehmen für einen Weg entschieden, der sowohl die Nutzer verärgert als auch die Integrität der regulatorischen Ziele untergräbt.

Offene Fragen zur praktischen Anwendbarkeit

Der Quelltext lässt zahlreiche Fragen unbeantwortet, die für das Verständnis der Maßnahme von entscheidender Bedeutung wären. So bleibt völlig unklar, wie genau die API zur Erkennung der Wasserzeichen funktionieren soll, sofern sie überhaupt jemals veröffentlicht wird. Es gibt keine Informationen darüber, welche Kriterien für die Erkennung herangezogen werden und wie hoch die Fehlerrate bei der Identifizierung von KI-generierten Texten sein wird. Ebenso wenig wird erläutert, wie Anthropic sicherstellen will, dass die Wasserzeichen auch nach einer Bearbeitung durch den Nutzer erhalten bleiben. Die Lücke zwischen dem Versprechen einer funktionierenden Kennzeichnung und der technischen Realität, in der Text beliebig kopiert und verändert werden kann, bleibt bestehen. Es wird nicht geklärt, ob Anthropic plant, die Technologie weiterzuentwickeln, um die Unterscheidung zwischen bloßer Bearbeitung und eigenständiger Generierung zu ermöglichen. Die Frage, ob das Unternehmen die Kritik der Nutzer ernst nimmt oder ob die globale Ausrollung des Wasserzeichens als endgültige Entscheidung zu betrachten ist, bleibt ebenfalls offen.

Wie es in der Zukunft mit der Kennzeichnung weitergeht

Die weitere Entwicklung bleibt ungewiss, da Anthropic bisher keine konkreten Zeitpläne für die angekündigten Verbesserungen oder die Veröffentlichung der API genannt hat. Es steht lediglich fest, dass das Unternehmen derzeit noch an den Details der Umsetzung arbeitet. Nutzer und Beobachter warten nun darauf, ob die angekündigte API tatsächlich erscheint und ob sie für die breite Öffentlichkeit oder nur für ausgewählte Institutionen zugänglich sein wird. Sollte sich die Prognose von Experten bewahrheiten, dass die Kennzeichnung eine Welle von Tools zur Entfernung dieser Wasserzeichen auslöst, könnte dies zu einem dauerhaften Katz-und-Maus-Spiel zwischen KI-Anbietern und Entwicklern von Entfernungs-Software führen. Die ausstehende Entscheidung über die öffentliche Verfügbarkeit der Erkennungs-API wird ein wesentlicher Indikator dafür sein, ob Anthropic an einer echten Transparenz interessiert ist oder ob die Wasserzeichen lediglich eine symbolische Geste bleiben, um den regulatorischen Druck der EU kurzfristig zu mindern, ohne die grundlegenden Probleme der KI-Kennzeichnung zu lösen.