Blick ins Heft c’t 17/2026: KI-Fakes sicher erkennen

Die Herausforderung der KI-Erkennung

Lange Zeit galt das menschliche Sprachgefühl als verlässliches Instrument, um zwischen menschlich verfassten Texten und KI-generierten Inhalten zu unterscheiden. Diese Sicherheit schwindet jedoch zunehmend. Moderne große Sprachmodelle produzieren mittlerweile Texte, die nicht nur flüssig und stilistisch flexibel wirken, sondern auch kaum noch Fehler aufweisen. Dieser Fortschritt macht es selbst für Experten schwierig, den Ursprung eines Inhalts zweifelsfrei zu bestimmen.

Da eine zuverlässige Erkennung durch bloßes Lesen oder Betrachten kaum noch möglich ist, verschiebt sich der Fokus der politischen Debatte. Anstatt sich auf die Frage zu konzentrieren, ob ein Inhalt als künstlich erkennbar ist, rückt die EU nun die Frage der Kennzeichnungspflicht in den Mittelpunkt. Ziel ist es, Transparenz bereits bei der Entstehung von Inhalten zu schaffen.

Grenzen technischer Detektionsmethoden

Auf dem Markt existieren diverse Dienste wie Pangram, Copyleaks oder Winston AI, die versprechen, Texte als KI-generiert oder menschlich einzustufen. Ähnliche Ansätze gibt es für Bild- und Videomaterial. Technisch gesehen stoßen diese Lösungen jedoch an ihre Grenzen:

* **Wahrscheinlichkeit statt Gewissheit:** KI-Detektoren arbeiten auf Basis von Wahrscheinlichkeitsberechnungen. Sie können keine harten Tatsachen belegen, sondern lediglich Indizien für die Herkunft liefern.

* **Fehlerraten:** In der Praxis, etwa im akademischen Umfeld, hat sich gezeigt, dass Detektoren häufig menschliche Arbeiten fälschlicherweise als KI-generiert einstufen.

* **Wettrüsten:** Es findet ein ständiger Wettlauf statt. Während KI-Modelle immer realistischere Ergebnisse liefern, versuchen die Hersteller von Erkennungssoftware ständig, neue Merkmale zur Identifizierung zu finden. Einen dauerhaften Vorsprung kann derzeit keine Seite für sich beanspruchen.

Neue Dokumentationspflichten durch die EU

Die EU-KI-Verordnung definiert nun klare Pflichten zur KI-Transparenz. Entwickler und berufliche Anwender von KI-Systemen in Europa sind verpflichtet, Informationen über die Entstehung der Inhalte bereitzustellen. Damit wird aus dem bisherigen, oft frustrierenden Suchproblem eine verbindliche Dokumentationspflicht.

Dennoch bleibt die praktische Umsetzung komplex. Die im Juli 2026 veröffentlichten Leitlinien der EU-Kommission lassen nach wie vor Deutungsspielraum. Offene Fragen sind unter anderem:

* Welche Definition gilt exakt für einen „KI-generierten Inhalt“?

* Wo verläuft die Grenze zwischen einer harmlosen Bildbearbeitung und einer kennzeichnungspflichtigen Deepfake-Erstellung?

* Inwieweit müssen Texte, die lediglich durch KI überarbeitet wurden, als solche deklariert werden?

Sicherheit im digitalen Alltag

Neben der Problematik künstlicher Inhalte bleibt die Gefahr durch klassische Cyberkriminalität, wie etwa Phishing-Angriffe auf Buchungsplattformen wie Booking.com, akut. Kriminelle nutzen hierbei oft täuschend echte Nachrichten, um Nutzer zur erneuten Bestätigung von Buchungen oder zu Zahlungen zu bewegen.

Um sich vor solchen Betrugsversuchen zu schützen, empfehlen Experten folgende Maßnahmen:

* **Zwei-Faktor-Authentifizierung (2FA):** Die Aktivierung im Nutzerkonto ist essenziell, idealerweise unter Verwendung von Passkeys.

* **Kommunikationswege:** Nutzen Sie für die Kommunikation mit Unterkünften ausschließlich die offizielle Plattform. Nachrichten über Drittanbieter wie WhatsApp bergen ein höheres Risiko.

* **Skepsis bei Links:** Überprüfen Sie angebliche Buchungsprobleme immer direkt im eigenen Nutzerkonto auf der Plattform, anstatt auf Links in E-Mails oder SMS zu klicken.

* **Direkter Kontakt:** Im Zweifelsfall ist ein direkter Anruf bei der Unterkunft der sicherste Weg, um den Status einer Buchung zu verifizieren.