Im Kampf gegen Deepfakes: Dieses neue Tool spürt die Quelle von KI-Videos auf

Die wachsende Herausforderung durch täuschend echte KI-Inhalte

Die Qualität von Deepfakes hat ein Niveau erreicht, das selbst Experten vor große Herausforderungen stellt. Mittlerweile ist es für das menschliche Auge kaum noch möglich, authentische Aufnahmen von computergenerierten Fälschungen zu unterscheiden. Diese Entwicklung birgt erhebliche Risiken: Betrüger nutzen die Technologie, um bekannte Persönlichkeiten für unautorisierte Werbezwecke einzusetzen oder sich in digitalen Kommunikationskanälen als andere Personen auszugeben.

Besonders im Bereich der Personalgewinnung zeichnet sich eine besorgniserregende Tendenz ab. Experten von Gartner prognostizieren, dass bis zum Jahr 2028 jede vierte Bewerbung gefälscht sein könnte. Der Einsatz von Deepfakes in Vorstellungsgesprächen gefährdet nicht nur die Chancengleichheit für ehrliche Kandidaten, sondern öffnet auch Tür und Tor für Sicherheitsrisiken wie Datendiebstahl oder die Einschleusung von Schadsoftware in Unternehmensnetzwerke.

Rechtliche Rahmenbedingungen und die Notwendigkeit neuer Forensik-Tools

Aufgrund der zunehmenden Bedrohungslage hat die Europäische Union reagiert. Seit dem 2. August 2026 gilt eine Kennzeichnungspflicht für KI-generierte Inhalte, die im kommerziellen Kontext verwendet werden. Dennoch bleibt die bloße Kennzeichnung unzureichend, da Akteure mit betrügerischen Absichten weiterhin versuchen werden, manipulierte Inhalte als echt auszugeben.

Um dieser Entwicklung entgegenzuwirken, reicht die reine Erkennung von Fälschungen nicht mehr aus. Es ist notwendig, die Urheber und die verwendeten KI-Modelle zurückzuverfolgen. Ein Forschungsteam der University of California hat hierfür das Tool „Source Attribution of Generative AI“ (SAGA) entwickelt, dessen Funktionsweise in einem Whitepaper der Computer Vision Foundation detailliert beschrieben wird.

SAGA: Technische Analyse der Herkunft

Das Projekt SAGA verfolgt einen zweistufigen Ansatz: Zunächst analysiert das Modell die Authentizität des Videomaterials und liefert eine Begründung für die Einstufung als Fälschung. Im zweiten Schritt identifiziert das Werkzeug das spezifische KI-Modell, das für die Erstellung des Inhalts verantwortlich war. Diese Informationen sind wertvoll, da sie Entwicklern dabei helfen können, die Sicherheitsvorkehrungen ihrer eigenen Modelle gezielt nachzubessern.

Um eine hohe Zuverlässigkeit zu gewährleisten, basiert SAGA auf einem sogenannten Foundation Model. Dies verhindert, dass das Tool bei Abweichungen in den Daten – etwa durch Kompression beim Hochladen in sozialen Netzwerken – die Analyse verfälscht. Das System bleibt stabil, selbst wenn das Videomaterial technisch verändert wurde.

Zeitliche Signaturen als digitaler Fingerabdruck

Die Forscher konnten nachweisen, dass SAGA die Herkunft eines Videos anhand sogenannter zeitlicher Signaturen bestimmt. Diese beschreiben die Art und Weise, wie sich Einzelbilder innerhalb eines Videos entwickeln. Obwohl verschiedene KI-Modelle bei identischen Eingabedaten optisch ähnliche Ergebnisse liefern, hinterlassen sie jeweils spezifische, mikroskopisch kleine Unstimmigkeiten.

Diese winzigen Abweichungen dienen als digitaler Fingerabdruck, den das forensische Tool auslesen kann. Laut Rohit Kundu, der als Doktorand an der University of California und wissenschaftlicher Praktikant bei YouTube an der Entwicklung beteiligt war, ermöglichen diese Signaturen eine präzise Zuordnung des erzeugenden Modells. Die Entwicklung markiert einen wichtigen Schritt, um die Transparenz im Umgang mit generativen Inhalten zu erhöhen und die Rückverfolgbarkeit von KI-generierten Fälschungen signifikant zu verbessern.