KI-Phishing: Warum Klickraten laut TU-Berlin-Studie um den Faktor 3 steigen

Was geschehen ist – die Kernmeldung ausführlich

Die Bedrohung durch digitale Betrugsversuche hat eine neue, besorgniserregende Qualität erreicht. Wie eine aktuelle wissenschaftliche Untersuchung belegt, führt der Einsatz von Künstlicher Intelligenz (KI) bei Phishing-Kampagnen zu einer drastischen Zunahme der Erfolgsquoten. Forschende der Technischen Universität Berlin, des französischen Inria-Instituts sowie der Ruhr-Universität Bochum haben in einer gemeinsamen Studie nachgewiesen, dass die Verwendung von kleinen, lokal betriebenen KI-Sprachmodellen (LLMs) die Klickraten bei Phishing-Mails um den Faktor drei in die Höhe treibt. Während herkömmliche, manuell erstellte oder weniger ausgefeilte Phishing-Versuche oft an der Skepsis der Empfänger oder an automatisierten Sicherheitssystemen scheitern, gelingt es den KI-gestützten Varianten, die Zielpersonen deutlich präziser und überzeugender anzusprechen. Die Untersuchung verdeutlicht, dass die Automatisierung durch moderne Sprachmodelle nicht nur die Effizienz der Angreifer steigert, sondern auch die Qualität der betrügerischen Inhalte auf ein Niveau hebt, das für den durchschnittlichen Nutzer kaum noch von legitimer Kommunikation zu unterscheiden ist. Diese Entwicklung markiert einen Wendepunkt in der digitalen Sicherheit, da die Hürden für Cyberkriminelle, massenhaft personalisierte und damit hochwirksame Angriffe zu starten, durch die Verfügbarkeit solcher KI-Technologien massiv gesunken sind.

Die Einzelheiten – Zahlen, Namen und Fakten

Die von Wolfgang Stieler für die MIT Technology Review dokumentierte Studie liefert präzise Daten, die das Ausmaß der Gefahr verdeutlichen. Die beteiligten Wissenschaftler der TU Berlin, des Inria-Instituts und der Ruhr-Universität Bochum konnten durch den Einsatz lokaler KI-Modelle den Anteil erfolgreicher Angriffe – gemessen an den Klickraten der Empfänger – von zuvor knapp vier Prozent auf rund zehn Prozent steigern. Besonders alarmierend ist dabei die Effektivität der Umgehung von Schutzmechanismen: Die eingesetzten Sicherheitssysteme, deren Aufgabe es eigentlich ist, bösartige E-Mails frühzeitig zu identifizieren und zu blockieren, erwiesen sich als nahezu wirkungslos. In dem Testlauf mit insgesamt knapp 4.000 KI-generierten E-Mails schlug das Sicherheitssystem lediglich bei einer einzigen Nachricht an. Dies bedeutet eine Erkennungsrate, die statistisch gesehen gegen Null tendiert. Die Personalisierung der Mails durch die Sprachmodelle war dabei so ausgefeilt, dass die Empfänger die betrügerischen Inhalte als vertrauenswürdig einstuften. Die Studie zeigt somit eindrucksvoll, dass die Kombination aus lokaler Rechenleistung und spezialisierten Sprachmodellen eine neue Ära des Social Engineering einläutet, bei der klassische Filtermechanismen der IT-Sicherheit zunehmend an ihre Grenzen stoßen.

Hintergrund – Die Entwicklung der Bedrohungslage

Der technologische Wandel, der den Alltag und die legale Wirtschaft prägt, hat längst auch die Schattenwirtschaft des Cybercrime-Untergrunds erreicht. Die Verbreitung von KI-Modellen hat die globale Bedrohungslage fundamental verändert, wie Interpol in einem aktuellen Bericht eindringlich warnt. Cyberkriminelle nutzen die neuen Möglichkeiten nicht mehr nur für einfache Spam-Wellen, sondern setzen vermehrt auf KI-gestützte Werkzeuge, um ihre Kampagnen zu automatisieren und zu professionalisieren. Dabei geht es längst nicht mehr nur um Phishing im klassischen Sinne. Die Bandbreite der Aktivitäten umfasst die Erstellung überzeugender Deepfakes für Identitätsbetrug, komplexes Social Engineering sowie die Generierung fiktiver Identitäten, um Finanzbetrug in großem Stil zu begehen. Die aktuelle Studie der TU Berlin und ihrer Partner ist somit als Bestätigung dieser Warnungen zu verstehen. Sie belegt empirisch, dass die Werkzeuge, die für legitime Zwecke entwickelt wurden, von kriminellen Akteuren instrumentalisiert werden, um die Erkennung durch herkömmliche, signaturbasierte Sicherheitssysteme systematisch zu unterlaufen. Die Entwicklung zeigt, dass die technologische Aufrüstung der Angreifer der Verteidigung derzeit einen entscheidenden Schritt voraus ist.

Die Beteiligten – Institutionen und Experten

An der Untersuchung waren maßgebliche akademische Institutionen beteiligt, die für ihre Expertise in der IT-Sicherheit bekannt sind. Die Technische Universität Berlin fungierte dabei als einer der zentralen Akteure, unterstützt durch die Forschungsexpertise des französischen Inria-Instituts sowie der Ruhr-Universität Bochum. Diese interdisziplinäre Zusammenarbeit war notwendig, um die komplexen Auswirkungen von KI auf die Cybersicherheit in einem kontrollierten, aber realitätsnahen Umfeld zu testen. Auf einer übergeordneten Ebene warnt zudem die internationale Polizeiorganisation Interpol vor den Gefahren, die von dieser Entwicklung ausgehen. Interpol betont in ihren Berichten, dass die Bedrohung durch KI-gestützte Kriminalität eine globale Herausforderung darstellt, die über einzelne Unternehmen oder Länder hinausgeht. Der Journalist Wolfgang Stieler, der die Ergebnisse für die MIT Technology Review aufbereitet hat, fungiert hierbei als Vermittler dieser wissenschaftlichen Erkenntnisse an eine breitere Öffentlichkeit. Die Beteiligten unterstreichen gemeinsam, dass die technologische Entwicklung eine neue Form der Wachsamkeit erfordert, da die Täter zunehmend auf KI-Modelle setzen, die lokal betrieben werden können und somit keine Abhängigkeit von externen Cloud-Diensten erfordern, was ihre Entdeckung durch Sicherheitsbehörden zusätzlich erschwert.

Einordnung – Was das bedeutet

Einzuordnen ist das so: Die Ergebnisse der Studie markieren eine Zäsur für die IT-Sicherheit. Den Berichten zufolge ist die Zeit vorbei, in der Phishing-Mails durch Rechtschreibfehler oder unpersönliche Anreden leicht als solche zu entlarven waren. Durch die Personalisierung mittels lokaler KI-Modelle wird jede Nachricht individuell auf das potenzielle Opfer zugeschnitten. Dies erhöht die psychologische Überzeugungskraft der Angriffe massiv. Dass die Sicherheitssysteme bei fast 4.000 Mails nur einen einzigen Treffer landeten, ist ein alarmierendes Signal. Es deutet darauf hin, dass die bisherigen, signaturbasierten Abwehrmechanismen, die nach bekannten Mustern oder verdächtigen Schlagworten suchen, gegen die dynamische und hochgradig individuelle Natur KI-generierter Texte weitgehend machtlos sind. Die Studie macht deutlich, dass die KI-Technologie den Angreifern einen massiven Produktivitätsvorteil verschafft. Während früher die Erstellung personalisierter Mails einen hohen manuellen Aufwand erforderte, kann dieser Prozess nun in großem Maßstab automatisiert werden. Die Bedrohung ist somit nicht mehr nur qualitativ hochwertiger, sondern auch quantitativ in einem völlig neuen Ausmaß verfügbar, was das Risiko für jeden einzelnen Internetnutzer signifikant erhöht.

Offene Fragen – Was der Quelltext nicht beantwortet

Obwohl die Studie der TU Berlin und ihrer Partner die Wirksamkeit von KI-Phishing eindrucksvoll belegt, bleiben einige Aspekte in der Berichterstattung offen. Der Quelltext macht beispielsweise keine konkreten Angaben dazu, welche spezifischen KI-Modelle oder Architekturen für die Erstellung der Phishing-Mails verwendet wurden. Es bleibt unklar, ob es sich um frei verfügbare Open-Source-Modelle oder um spezialisierte, möglicherweise illegal erworbene oder modifizierte Modelle handelte. Ebenso wenig wird detailliert erläutert, welche Art von Sicherheitssystemen in der Studie genau getestet wurden – ob es sich um Standard-E-Mail-Filter, spezialisierte Enterprise-Lösungen oder eine Kombination aus verschiedenen Schutzschichten handelte, wird nicht spezifiziert. Auch die Frage nach der langfristigen Abwehrstrategie bleibt in diesem Kontext unbeantwortet. Der Text benennt zwar das Problem der ineffektiven Filter, bietet jedoch keine unmittelbare Lösung oder technologische Antwort darauf, wie zukünftige Sicherheitssysteme konzipiert sein müssten, um diese neuartige Form der KI-gestützten Täuschung zuverlässig zu erkennen. Die Lücke zwischen der Identifikation der Gefahr und der Entwicklung effektiver Gegenmaßnahmen bleibt somit ein zentraler Punkt, der in der weiteren wissenschaftlichen und technischen Debatte adressiert werden muss.

Wie es weitergeht – Ausblick und offene Schritte

Die Forschungsergebnisse der TU Berlin, des Inria-Instituts und der Ruhr-Universität Bochum dienen als Weckruf für die IT-Sicherheitsbranche. Da die Klickraten bei KI-gestützten Angriffen um den Faktor drei steigen, ist davon auszugehen, dass die Entwicklung neuer, KI-resistenter Sicherheitslösungen nun höchste Priorität genießen wird. Es ist zu erwarten, dass Sicherheitsanbieter ihre Filtertechnologien grundlegend überarbeiten müssen, um von rein signaturbasierten Ansätzen zu verhaltensbasierten oder KI-gestützten Analysemodellen überzugehen, die selbst in der Lage sind, die subtilen Merkmale KI-generierter Texte zu erkennen. Die angekündigten Berichte von Interpol unterstreichen zudem, dass auch auf regulatorischer und polizeilicher Ebene weitere Schritte notwendig sind, um der zunehmenden Automatisierung von Cyberkriminalität entgegenzuwirken. Die Studie liefert die empirische Basis, auf der künftige Strategien zur digitalen Verteidigung aufbauen müssen. Es bleibt abzuwarten, wie schnell die Industrie auf diese Erkenntnisse reagiert und ob es gelingt, die technologische Lücke zur Schattenwirtschaft wieder zu schließen, bevor die KI-gestützte Phishing-Welle zu einer flächendeckenden Bedrohung für Unternehmen und Privatpersonen wird.