Terrorgruppe nutzte ChatGPT schon 2023 – für Bomben, Waffen und Drohnen

Die technologische Aufrüstung extremistischer Gruppierungen

Lange Zeit herrschte die Annahme vor, dass ideologisch motivierte Terrorgruppen, die westliche Bildung und moderne Wissenschaft explizit ablehnen, technologische Innovationen konsequent meiden würden. Eine aktuelle Forschungsarbeit der Sicherheitsforscherin Antonia Jülich vom Cambridge Programme on AI Science & Policy (CASP) zeichnet jedoch ein völlig anderes Bild. Die Untersuchung belegt, dass insbesondere Fraktionen der islamistischen Terrororganisation Boko Haram bereits im Jahr 2023 zu den frühen Anwendern generativer Künstlicher Intelligenz zählten.

Die Ergebnisse basieren auf einer intensiven Feldforschung, für die Jülich insgesamt 27 ehemalige Mitglieder der Gruppierung in Nigeria befragte. Dabei wurde deutlich, dass die technologische Aversion innerhalb der Gruppe keineswegs einheitlich ist. Während Teile der Organisation an traditionellen Strukturen festhalten, zeigen sich IS-nahe Fraktionen innerhalb von Boko Haram als ausgesprochen technikaffin und experimentierfreudig.

KI als Werkzeug für den bewaffneten Kampf

Die Nutzung von Chatbots durch die Terroristen beschränkt sich nicht auf einfache Kommunikation oder Propaganda. Laut der Studie dienten die KI-Modelle als direkte Unterstützung bei operativen Tätigkeiten auf dem Schlachtfeld. Die Erkenntnisse aus den Interviews zeigen, dass die Technologie in mehreren kritischen Bereichen eingesetzt wurde:

* **Konstruktion von Sprengvorrichtungen:** Die KI lieferte Anleitungen oder technische Unterstützung bei der Herstellung von Bomben.

* **Wartung und Modifikation:** Waffen wurden mithilfe der KI-gestützten Informationen repariert, gewartet oder technisch aufgerüstet.

* **Strategische Planung:** Die Gruppierungen nutzten die Rechenleistung und Analysefähigkeiten der Modelle, um taktische Vorgehensweisen und militärische Strategien zu verfeinern.

Herausforderungen für die Sicherheitspolitik

Die Ergebnisse werfen ein kritisches Licht auf die Sicherheitsmechanismen der großen KI-Entwickler. Trotz zahlreicher Bemühungen, den Missbrauch von Sprachmodellen für illegale oder gefährliche Zwecke durch sogenannte „Guardrails“ zu unterbinden, gelingt es Akteuren wie Boko Haram offenbar, diese Schutzschichten zu umgehen oder die Systeme für ihre Zwecke zu instrumentalisieren.

Die Tatsache, dass eine Gruppe, die sich in weiten Teilen gegen westliche Einflüsse stellt, gleichzeitig von westlicher Hochtechnologie profitiert, verdeutlicht die Ambivalenz der aktuellen Entwicklung. Für die Sicherheitsbehörden und die Entwickler von KI-Systemen stellt dies eine neue Qualität der Bedrohung dar. Die niedrige Hemmschwelle und die einfache Zugänglichkeit der Tools ermöglichen es auch technisch weniger versierten Akteuren, ihr Gefahrenpotenzial durch KI signifikant zu steigern.

Einordnung der Entwicklung

Die Studie von Antonia Jülich unterstreicht die Notwendigkeit, die Verbreitung generativer KI nicht nur unter dem Aspekt des Datenschutzes oder der Urheberrechte zu betrachten, sondern verstärkt den Fokus auf die sicherheitspolitischen Implikationen zu legen. Da die Technologie global verfügbar ist, sind die Grenzen zwischen ziviler Nutzung und militärischer Zweckentfremdung fließend.

Die nächsten Schritte in der sicherheitspolitischen Debatte dürften sich verstärkt darum drehen, wie die Sicherheitsvorkehrungen bei der Entwicklung von Large Language Models (LLMs) robuster gestaltet werden können, ohne die technologische Innovation insgesamt zu ersticken. Die Erkenntnisse aus Nigeria dienen hierbei als mahnendes Beispiel dafür, dass die digitale Transformation auch in entlegenen oder ideologisch abgeschotteten Gebieten längst Einzug gehalten hat.