Deepfakes in Videokonferenzen: Fraunhofer entwickelt Echtzeit-Warnsystem

Neue Sicherheitslösungen gegen digitale Identitätsdiebstähle

Die Bedrohung durch täuschend echte KI-generierte Avatare in Videokonferenzen nimmt stetig zu. Cyberkriminelle nutzen zunehmend Deepfakes, um sich als vertrauenswürdige Personen auszugeben und sensible Informationen oder finanzielle Vorteile zu erlangen. Um dieser Entwicklung entgegenzuwirken, hat das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt, in Zusammenarbeit mit dem Standort Heilbronn, ein innovatives Warnsystem konzipiert. Das Projekt ist Teil der Forschungsinitiative „ATHENE“, die vom Bundesforschungsministerium sowie dem Land Hessen unterstützt wird.

Die Herausforderung der Live-Erkennung

Die Identifizierung von manipulierten Gesprächsteilnehmern in Echtzeit ist technisch anspruchsvoll. Da Nutzer von Videokonferenzen an gelegentliche Bildstörungen, Latenzen oder Kompressionsartefakte gewöhnt sind, fallen KI-Klone oft nicht sofort auf. Zudem erschweren moderne Weichzeichner und schwankende Internetverbindungen die Arbeit klassischer Erkennungsalgorithmen, da diese häufig auf spezifische Bildfehler angewiesen sind, die durch die genannten Faktoren maskiert werden.

Das neue System des Fraunhofer-Instituts setzt daher auf einen kombinierten Ansatz: Mittels maschinellem Lernen werden sowohl Audio- als auch Videodaten analysiert. Das Ergebnis ist eine Wahrscheinlichkeitsanzeige, die den Nutzer darauf hinweist, ob das Gegenüber möglicherweise manipuliert wurde. Die endgültige Bewertung bleibt dabei bewusst beim Menschen, der durch gezielte Rückfragen oder alternative Kommunikationskanäle die Echtheit verifizieren kann.

Lokale Analyse als Datenschutzgarant

Ein wesentlicher Aspekt der Entwicklung ist die Architektur der Software. Um den Schutz vertraulicher Daten zu gewährleisten, erfolgt die gesamte Analyse lokal auf dem Endgerät des Nutzers. Nach Angaben von Prof. Martin Steinebach, leitendem IT-Forensiker am Fraunhofer SIT, ist hierfür lediglich ein Rechner mit einer modernen Grafikkarte und einem Grafikspeicher von zwölf Gigabyte erforderlich. Da keine Daten an externe Server übermittelt werden müssen, eignet sich das System laut den Entwicklern besonders für den Einsatz in geschäftlichen oder privaten Kontexten, in denen Diskretion und Datensicherheit oberste Priorität haben.

Offene Fragen und zukünftige Schritte

Obwohl der Demonstrator bereits existiert, befindet sich die Technologie noch in einer frühen Erprobungsphase. Zu den noch zu klärenden Punkten gehören:

* **Erkennungsraten:** Bisher liegen keine belastbaren Daten zur Präzision der Software oder zur Häufigkeit von Fehlalarmen vor.

* **Rechtliche Rahmenbedingungen:** Da das System biometrische Merkmale wie Gesichtszüge und Stimmmuster verarbeitet, müssen die Anforderungen der Datenschutz-Grundverordnung (DSGVO) geprüft werden. Es ist noch unklar, inwieweit eine explizite Zustimmung der Gesprächsteilnehmer für die Analyse erforderlich ist.

* **Integration:** Die Forschenden planen, nach Abschluss der Entwicklungsphase den Dialog mit Anbietern von Videokonferenz-Plattformen wie Microsoft Teams oder Zoom zu suchen, um eine sichere und datenschutzkonforme Implementierung zu ermöglichen.

Menschliche Wachsamkeit bleibt entscheidend

Unabhängig von der technischen Entwicklung betont Prof. Steinebach, dass Software allein keinen vollständigen Schutz bieten kann. Die menschliche Komponente bleibt ein kritischer Sicherheitsfaktor. Insbesondere bei ungewöhnlichen Forderungen, wie etwa der Aufforderung zu Finanztransaktionen während eines Videocalls, raten Experten dazu, stets einen unabhängigen, zweiten Kommunikationsweg zu nutzen, um die Identität des Gegenübers zweifelsfrei zu bestätigen. Die Technik soll somit als unterstützendes Werkzeug dienen, nicht als Ersatz für gesundes Misstrauen bei sicherheitskritischen Vorgängen.