IT-Sicherheit: Studie zeigt hohe Klickraten durch KI-Spear-Phishing

Ein massives Sicherheitsrisiko durch KI-gestützte Personalisierung

Die Bedrohungslage für die IT-Sicherheit in Unternehmen und Institutionen hat sich durch den Einsatz von Künstlicher Intelligenz (KI) grundlegend verändert. Eine aktuelle, großangelegte Studie, die unter anderem vom Berlin Institute for the Foundations of Learning and Data (Bifold) und der TU Berlin initiiert wurde, liefert beunruhigende Erkenntnisse über die Effektivität von automatisiertem Spear-Phishing. In einem Feldexperiment mit über 7.700 Beschäftigten der TU Braunschweig konnten die Forscher nachweisen, dass KI-gestützte Personalisierung die Erfolgsquote von Phishing-E-Mails nahezu verdreifacht. Während herkömmliche, generische Nachrichten oft als solche erkannt werden, gelingt es KI-Modellen, Inhalte so präzise auf die Empfänger zuzuschneiden, dass diese mit einer deutlich höheren Wahrscheinlichkeit auf schädliche Links klicken. Diese Entwicklung stellt eine erhebliche Herausforderung für die bisherigen Sicherheitsstrategien dar, da die Grenze zwischen legitimer Kommunikation und betrügerischen Versuchen zunehmend verschwimmt. Die Ergebnisse verdeutlichen, dass die Automatisierung von Angriffen nicht nur die Frequenz, sondern auch die Qualität der Täuschungsversuche massiv steigert, was die Notwendigkeit für neue Verteidigungskonzepte unterstreicht.

Methodik und Ergebnisse der wissenschaftlichen Untersuchung

An der Untersuchung waren neben dem Bifold und der TU Berlin auch das französische Forschungsinstitut Inria sowie die Ruhr-Universität Bochum beteiligt. Das Forscherteam, bestehend aus Stefan Czybik, Anne Josiane Kouam, Peter Heubl, Jan Magnus Nold und Konrad Rieck, nutzte für das Experiment eine Stichprobe von insgesamt 7.741 Mitarbeitern der TU Braunschweig. Um die Angriffe möglichst realistisch zu gestalten, griffen die Wissenschaftler ausschließlich auf öffentlich zugängliche Informationen zurück. Die E-Mail-Adressen der Zielpersonen dienten als Ausgangspunkt für Suchanfragen, bei denen berufliche Hintergründe, persönliche Interessen und soziale Zugehörigkeiten extrahiert wurden. Diese Daten dienten als Input für lokal gehostete Sprachmodelle, die daraus individuelle Nutzerprofile und maßgeschneiderte E-Mails generierten. Die Ergebnisse sind eindeutig: Während generische E-Mails – unabhängig davon, ob sie von Menschen oder einer KI verfasst wurden – lediglich eine Klickrate von 3,9 Prozent erreichten, stieg dieser Wert bei den personalisierten KI-Nachrichten auf 10,0 Prozent. Zum Vergleich: Manuell verfasste Spear-Phishing-Mails erzielten zwar eine noch höhere Klickrate von 24,2 Prozent, erforderten jedoch einen Zeitaufwand von etwa sieben Minuten pro Nachricht, während der KI-Prozess lediglich 45 Sekunden beanspruchte.

Die ökonomische Effizienz von KI-Angriffen

Ein wesentlicher Aspekt der Studie ist die ökonomische Dimension der automatisierten Angriffe. Die Forscher konnten zeigen, dass der KI-basierte Arbeitsablauf nicht nur zeitlich hochgradig effizient ist, sondern auch extrem kostengünstig. Die Kosten für die Erstellung einer derartigen personalisierten Phishing-E-Mail beliefen sich auf lediglich 0,03 US-Dollar pro Zieladresse. Diese niedrige Eintrittshürde macht es für Angreifer attraktiv, Phishing-Kampagnen in einem bisher nicht gekannten Ausmaß zu skalieren. Die Kombination aus geringem Zeitaufwand und minimalen finanziellen Investitionen ermöglicht es Kriminellen, eine Vielzahl von Personen gleichzeitig mit hochgradig individualisierten Inhalten zu adressieren. Die Effizienzsteigerung gegenüber manuellen Methoden ist eklatant. Während menschliche Angreifer bei einer aufwendigen Recherche und Textgestaltung an Kapazitätsgrenzen stoßen, kann ein KI-System rund um die Uhr und in nahezu unbegrenzter Zahl Nachrichten generieren, die auf den ersten Blick vertrauenswürdig erscheinen. Diese Skalierbarkeit ist ein kritischer Faktor, der die IT-Sicherheit von Organisationen weltweit unter Druck setzt, da die schiere Masse an personalisierten Angriffen die Verteidigungssysteme überfordern kann.

Unerwartete Erkenntnisse zur Datenmenge

Im Verlauf der Studie stießen die Forscher auf ein überraschendes Phänomen bezüglich der verfügbaren Datenmengen. Entgegen der Erwartung, dass eine größere Menge an persönlichen Informationen zwangsläufig zu einer höheren Klickrate führen müsste, zeigte sich das Gegenteil: Personen, über die besonders umfangreiche Datenprofile im Internet verfügbar waren, klickten seltener auf die Links in den Phishing-Mails als Personen mit geringen bis mittleren Datenmengen. Die Auswertung der Forscher legt nahe, dass die verwendeten Sprachmodelle bei sehr großen Eingabedatenmengen dazu neigten, stärker zu abstrahieren. In diesen Fällen wurden spezifische Details, die für eine überzeugende Personalisierung entscheidend gewesen wären, seltener direkt in den Nachrichten wiederverwendet. Dieser Effekt führt dazu, dass die Qualität der E-Mails bei einer Überfülle an Informationen paradoxerweise sinkt, da die KI den Fokus auf allgemeine Formulierungen verlagert, anstatt gezielt auf die individuellen Besonderheiten der Zielperson einzugehen. Dieser Befund bietet einen interessanten Ansatzpunkt für die Forschung, da er zeigt, dass die Komplexität der Datenverarbeitung durch KI-Modelle bei der Erstellung von Spear-Phishing-Inhalten eine technische Grenze hat, die den Erfolg des Angriffs beeinflussen kann.

Einordnung der Bedrohungslage und Schutzmaßnahmen

Die Ergebnisse der Studie sind als deutliches Warnsignal für die IT-Sicherheit zu werten. Den Berichten der Forscher zufolge ist die Erkennung von KI-generierten Nachrichten durch klassische technische Filter äußerst schwierig, da die Texte eine täuschend echte menschliche Sprache imitieren. Ein Beleg für diese Problematik ist die Tatsache, dass das Sicherheitssystem der Universität während des Experiments lediglich eine von 3.949 versandten Phishing-Mails abfangen konnte. Die Autoren der Studie betonen daher die Notwendigkeit einer vielschichtigen Verteidigungsstrategie. Ein zentraler Punkt ist die Reduzierung der im Internet verfügbaren persönlichen Daten, um Angreifern die Grundlage für ihre Personalisierung zu entziehen. Zudem fordern die Experten eine Anpassung der IT-Sicherheitsschulungen, die explizit auf die neuen Gefahren durch KI-gestützte Personalisierung eingehen müssen. Auch die technische Absicherung, beispielsweise durch eine konsequente Multi-Faktor-Authentifizierung, wird als essenziell erachtet, um das Risiko eines erfolgreichen Angriffs zu minimieren. Einzuordnen ist das so, dass technische Lösungen allein nicht mehr ausreichen, um die Lücke zwischen menschlicher Wahrnehmung und KI-Täuschung zu schließen.

Offene Fragen und zukünftige Herausforderungen

Obwohl die Studie präzise Daten zur Wirksamkeit von KI-Phishing liefert, bleiben einige Fragen unbeantwortet. Der Quelltext enthält keine Informationen darüber, wie sich die Klickraten langfristig entwickeln könnten, wenn Nutzer für die neuen, KI-generierten Methoden sensibilisiert werden. Ebenso bleibt offen, welche spezifischen technischen Filter in anderen Unternehmensumgebungen effektiver sein könnten als das in der Studie genutzte System der Universität. Auch die Frage, wie sich die Qualität der KI-Modelle in den kommenden Jahren verändern wird und ob diese die aktuellen Abstraktionsprobleme bei großen Datenmengen überwinden können, wird nicht explizit thematisiert. Es bleibt zudem unklar, wie die Balance zwischen notwendiger beruflicher Sichtbarkeit im Netz und dem Risiko durch Spear-Phishing in der Praxis gefunden werden kann. Die Studie konzentrierte sich primär auf die Effektivität des Angriffs, nicht jedoch auf die detaillierte psychologische Analyse der Empfänger, die den Link schließlich anklickten. Diese Lücken in der Untersuchung zeigen, dass das Feld der IT-Sicherheit in Bezug auf KI-gestützte Bedrohungen noch viel Raum für weitere wissenschaftliche Auseinandersetzungen und praktische Sicherheitsanpassungen bietet.