Data Poisoning: Warum vergiftete Daten eine wachsende Gefahr für die IT-Sicherheit sind

Die schleichende Gefahr: Wenn KI-Modelle manipuliert werden

Die Sicherheit von KI-Systemen steht vor einer neuen, komplexen Herausforderung: dem sogenannten Data Poisoning. Dabei handelt es sich um die gezielte Einspeisung fehlerhafter oder manipulativer Informationen in die Datenbasis von Künstlicher Intelligenz. Das Ziel ist es, das Verhalten der Modelle subtil zu steuern oder in eine bestimmte Richtung zu lenken. Während einige Akteure diese Methode nutzen, um eigene Inhalte vor KI-Crawlern zu schützen, offenbart die Technologie eine gefährliche Kehrseite, die tief in die Funktionslogik moderner KI-Systeme eingreift.

Ein realer Vorfall: Wenn Chatbots zu Scammer-Helfern werden

Ein prominentes Beispiel für die Auswirkungen von Data Poisoning wurde Ende 2025 durch den Sicherheitsdienstleister Aurascape aufgedeckt. Nutzer von KI-Suchmaschinen wie Perplexity erhielten bei Anfragen zu Service-Hotlines von Fluggesellschaften wie Emirates oder British Airways gezielt Kontaktinformationen, die zu betrügerischen Callcentern führten. Die KI lieferte diese falschen Daten, weil sie durch manipulierte Metadaten im Web gezielt in die Irre geführt wurde. Dieser Vorfall verdeutlicht, dass die „Blackbox“ der KI anfällig für äußere Manipulationen ist, die für den Endnutzer kaum als solche erkennbar sind.

Die verschiedenen Dimensionen des Data Poisoning

Experten unterscheiden bei dieser Angriffsform verschiedene Schweregrade und Stoßrichtungen:

* **Manipulation von Metadaten:** Wie im Fall von Aurascape beobachtet, werden Informationen so präpariert, dass Suchalgorithmen falsche Quellen als vertrauenswürdig einstufen.

* **Vergiftung von Trainingsdaten:** Dies gilt als besonders kritische Variante. Wenn bereits die Basis, auf der ein Modell lernt, manipuliert wird, kann das System nicht nur inhaltlich falsch antworten, sondern im schlimmsten Fall dazu gebracht werden, Schadcode nachzuladen oder gefährliche Aktionen auszuführen.

* **Einflussnahme auf Recommender-Systeme:** Algorithmen, die Kaufempfehlungen oder Inhalte vorschlagen, können durch gezielte Datenmanipulation dazu gebracht werden, bestimmte Produkte oder politische Narrative bevorzugt auszuspielen.

Eine Machtfrage im digitalen Raum

Stephan Günnemann, Professor für Data Analytics and Machine Learning an der Technischen Universität München, ordnet das Phänomen als ein grundlegendes Machtproblem ein. Data Poisoning findet überall dort statt, wo Menschen direkt mit KI interagieren und versuchen, wirtschaftliche Vorteile oder politischen Einfluss zu gewinnen. Da die Systeme darauf ausgelegt sind, aus einer Vielzahl von Quellen zu lernen, ist die Grenze zwischen legitimer Information und „Gift“ oft fließend.

Die Herausforderung der Detektion

Eines der größten Probleme für die IT-Sicherheit ist der Nachweis einer Datenvergiftung. Da KI-Modelle auf riesigen Datenmengen basieren, ist es ausgesprochen schwierig, den Ursprung einer fehlerhaften Information zweifelsfrei zu identifizieren. Der Fall Aurascape stellt eine seltene Ausnahme dar, in der eine solche Manipulation erfolgreich aufgedeckt werden konnte. Für die Zukunft bedeutet dies, dass Unternehmen und Entwickler neue Strategien entwickeln müssen, um die Integrität ihrer Trainingsdaten zu gewährleisten und die Robustheit der Modelle gegenüber manipulativen Eingaben zu erhöhen.

Die Debatte um Data Poisoning zeigt, dass die Abhängigkeit von KI-Systemen neue Sicherheitslücken schafft. Während die Forschung nach Wegen sucht, die „Blutbahn der Tokens“ vor Verunreinigungen zu schützen, bleibt die Frage, ob wir es hier mit einem isolierten Phänomen oder der Spitze eines weitaus größeren Eisbergs zu tun haben.