Zwischen Panikmache und Realität: Was Phishing per KI wirklich für die Cybersicherheit bedeutet

Was geschehen ist – die Kernmeldung ausführlich

Die Welt der Cybersicherheit befindet sich in einem tiefgreifenden Wandel, der durch den massiven Einsatz künstlicher Intelligenz (KI) vorangetrieben wird. Aktuellen Berichten zufolge werden mittlerweile etwa 50 Prozent aller Phishing-Mails unter Zuhilfenahme von KI-Systemen verfasst. Diese Entwicklung markiert eine neue Ära, in der Angreifer ihre Methoden effizienter und schwerer erkennbar gestalten können. Ein besonders aufsehenerregender Vorfall ereignete sich Ende August 2025, als der IT-Sicherheitsforscher Anton Cherepanov eine neuartige Schadsoftware entdeckte, die herkömmliche Schutzmechanismen scheinbar mühelos umging. Zusammen mit seinem Kollegen Peter Strýček analysierte er die Datei, die sich als hochkomplexe Ransomware entpuppte. Das Besondere an diesem Fund war die autonome Nutzung großer Sprachmodelle (LLMs), die es der Malware ermöglichte, in Echtzeit individuellen Code zu generieren und personalisierte Erpressungsschreiben zu verfassen. Dieser Vorfall löste weltweit eine Debatte über das tatsächliche Gefahrenpotenzial von KI-gesteuerten Angriffen aus, da die Grenzen zwischen technologischer Innovation und krimineller Anwendung zunehmend verschwimmen.

Die Einzelheiten – Zahlen, Namen und Hintergründe

Der Vorfall um die als „PromptLock“ bezeichnete Software nahm seinen Anfang, als Anton Cherepanov bei einer routinemäßigen Untersuchung auf eine Datei stieß, die trotz ihres harmlosen Erscheinungsbildes die Sicherheitssysteme alarmierte. Die anschließende Untersuchung durch Cherepanov und seinen Kollegen Peter Strýček offenbarte eine technologische Neuerung: Die Malware nutzte LLMs, um autonom zu agieren. Sie scannte das infizierte System, identifizierte sensible Daten und erstellte maßgeschneiderte Lösegeldforderungen, ohne dass ein menschlicher Angreifer eingreifen musste. Da sich die Software bei jedem Schritt anders verhielt, war sie für herkömmliche Sicherheitslösungen extrem schwer zu identifizieren. Die Forscher veröffentlichten ihre Erkenntnisse in einem Blogbeitrag, der international für erhebliches Aufsehen sorgte. Die Überraschung folgte jedoch prompt: Ein Forschungsteam der New York University gab kurz darauf bekannt, dass es sich bei „PromptLock“ nicht um einen kriminellen Angriff, sondern um ein akademisches Experiment handelte. Ziel war es aufzuzeigen, wie weit die Automatisierung von Ransomware-Kampagnen bereits fortgeschritten ist.

Hintergrund – Die Entwicklung der KI-Bedrohung

Die Integration von künstlicher Intelligenz in die Werkzeugkiste von Cyberkriminellen ist kein plötzliches Ereignis, sondern das Resultat einer schleichenden Entwicklung. Während Softwareentwickler KI-Tools nutzen, um Code effizienter zu schreiben oder Fehler in Programmen aufzuspüren, machen sich Hacker dieselben Mechanismen zunutze. Der wesentliche Vorteil für die Angreifer liegt in der massiven Zeitersparnis und der Reduzierung des Arbeitsaufwands. Zudem senkt die Verfügbarkeit dieser Technologien die Eintrittshürden für weniger erfahrene Akteure, die nun auf leistungsstarke Werkzeuge zurückgreifen können, um ihre Angriffe zu skalieren. Die aktuelle Situation ist geprägt von einer gewissen Uneinigkeit unter Experten: Während einige Fachleute vor einer neuen Stufe der Bedrohung durch KI-gesteuerte Malware warnen, betonen andere, dass es sich teilweise um Panikmache handelt. Die Realität liegt vermutlich in der Mitte, da sowohl die Qualität der Phishing-Mails als auch die Komplexität der Schadsoftware durch den Einsatz von KI signifikant zunehmen, was die Verteidiger vor ständig neue Herausforderungen stellt.

Die Beteiligten – Akteure und Institutionen

Im Zentrum dieses Vorfalls stehen die IT-Sicherheitsforscher Anton Cherepanov und Peter Strýček, deren Arbeit maßgeblich dazu beitrug, die Funktionsweise der neuen Malware-Variante zu verstehen. Ihre Entdeckung und die anschließende Analyse bildeten die Grundlage für den weltweiten Diskurs über die Sicherheit von IT-Systemen im KI-Zeitalter. Auf der anderen Seite steht das Forschungsteam der New York University, das durch sein Experiment mit „PromptLock“ die Sicherheitsbranche bewusst herausforderte, um die Möglichkeiten der Automatisierung aufzuzeigen. Diese Akteure verdeutlichen ein Spannungsfeld: Einerseits gibt es die Sicherheitsforscher, die Systeme schützen wollen, andererseits die akademische Forschung, die Grenzen auslotet, und im Hintergrund agieren die tatsächlichen Kriminellen, die diese Technologien für ihre Zwecke adaptieren. Die Berichterstattung hierzu erfolgt unter anderem durch Rhiannon Williams, eine Redakteurin des MIT Technology Review, die die technologischen Auswirkungen auf die IT-Sicherheit umfassend dokumentiert.

Einordnung – Was das für die Cybersicherheit bedeutet

Einzuordnen ist das so: Der Fall „PromptLock“ fungiert als ein Weckruf für die gesamte IT-Sicherheitsbranche. Auch wenn es sich um ein akademisches Projekt handelte, hat es bewiesen, dass die theoretische Möglichkeit einer vollautomatisierten Ransomware-Kampagne längst Realität ist. Den Berichten zufolge ist die größte Gefahr nicht unbedingt die Existenz der KI selbst, sondern die Geschwindigkeit, mit der sich Angreifer an neue technologische Möglichkeiten anpassen. Die Tatsache, dass bereits 50 Prozent aller Phishing-Mails KI-gestützt sind, unterstreicht, dass die Automatisierung von Angriffen in der Breite angekommen ist. Experten betonen, dass die Grenze zwischen legaler Software-Entwicklung und schädlicher Malware-Erstellung durch KI zunehmend verschwimmt. Es ist davon auszugehen, dass die Verteidigungsstrategien der Zukunft nicht mehr nur auf statischen Signaturen basieren können, da sich KI-gesteuerte Malware dynamisch verhält und ihre Verhaltensmuster ständig anpasst, um einer Erkennung zu entgehen.

Offene Fragen – Was der Quelltext nicht beantwortet

Trotz der detaillierten Beschreibung des „PromptLock“-Experiments bleiben einige zentrale Fragen unbeantwortet. Der Quelltext gibt keinen Aufschluss darüber, welche spezifischen Sicherheitslücken in den „maßgeschneiderten Sicherheitssystemen“ von Cherepanov durch die KI-Malware ausgenutzt wurden. Ebenso wenig wird präzisiert, wie die Sicherheitsbranche konkret auf die neuen Herausforderungen reagieren will, außer durch die allgemeine Feststellung, dass die Abwehr komplexer wird. Es bleibt offen, welche konkreten Schutzmaßnahmen oder neuen Technologien entwickelt werden, um derart adaptive, KI-gesteuerte Bedrohungen in Zukunft zuverlässig zu blockieren. Auch die Frage, inwieweit die Forschungsergebnisse der New York University nun von echten kriminellen Organisationen aufgegriffen oder weiterentwickelt wurden, wird nicht thematisiert. Zudem fehlen Informationen darüber, ob es bereits reale, nicht-akademische Fälle gibt, die eine vergleichbare Autonomie wie „PromptLock“ aufwiesen, oder ob dies bisher ein rein theoretisches Szenario bleibt, das lediglich durch das Experiment simuliert wurde.