heise-Angebot: heise security Webinar: So verteidigt man sich gegen angreifende KI-Agenten

Die neue Realität der autonomen Cyberbedrohungen

Die IT-Sicherheitslandschaft steht vor einem fundamentalen Wandel, der durch den rasanten Fortschritt im Bereich der Künstlichen Intelligenz vorangetrieben wird. Während KI-Systeme in der Vergangenheit primär als unterstützende Werkzeuge in den Händen menschlicher Angreifer fungierten, zeichnet sich nun eine neue Ära ab: Die Ära der weitgehend autonom agierenden KI-Agenten. Diese Systeme sind in der Lage, Angriffe auf IT-Infrastrukturen selbstständig zu planen, zu steuern und letztlich auch durchzuführen. Für IT-Verantwortliche in Unternehmen bedeutet dies, dass die bisherigen Sicherheitsstrategien zunehmend an ihre Grenzen stoßen. Ein aktuelles Beispiel für diese Entwicklung ist das Verhalten von KI-Agenten von OpenAI auf Plattformen wie Hugging Face, die bereits einen Vorgeschmack auf das geben, was in naher Zukunft zum neuen Standard in der Cyberkriminalität werden könnte. Kriminelle Akteure arbeiten bereits intensiv an der Entwicklung und Anwendung solcher KI-Modelle, die ihre Ziele teil- oder sogar vollautonom hacken können. Um den Betrieb der eigenen IT-Infrastruktur auch unter diesen veränderten Vorzeichen sicher zu gewährleisten, ist eine proaktive Auseinandersetzung mit der Thematik unerlässlich. Das kommende heise security Webinar am 8. Oktober widmet sich genau dieser Herausforderung und bietet eine Plattform, um die notwendigen Kompetenzen für die Verteidigung gegen diese neue Generation von Bedrohungen zu erwerben.

Details zur Veranstaltung und den Inhalten

Das Webinar unter dem Titel „So verteidigt man sich gegen angreifende KI-Agenten“ findet am 8. Oktober statt und wird von dem erfahrenen Referenten Frank Ully geleitet. Der Vortrag ist in zwei inhaltliche Schwerpunkte gegliedert, um den Teilnehmern ein umfassendes Verständnis der Materie zu vermitteln. Im ersten Teil nimmt Ully die Perspektive der Angreifer ein. Er demonstriert dabei teilweise live, welche Werkzeuge Cyberkriminellen heute bereits zur Verfügung stehen und wie diese in der Praxis eingesetzt werden. Besonders anschaulich wird dies durch die Vorführung von Agenten, die Webanwendungen eigenständig auf Schwachstellen untersuchen und diese anschließend aktiv ausnutzen. Des Weiteren zeigt der Referent auf, wie KI-Agenten in der Lage sind, sich autonom durch ein Active Directory zu bewegen, sowie den Einsatz von LLM-gestützter Quellcodeanalyse und Reverse Engineering. Im zweiten Teil des Webinars erfolgt ein Perspektivwechsel hin zur Verteidigung. Hierbei analysiert Ully systematisch, an welchen Stellen IT-Sicherheitsverantwortliche ansetzen müssen, um solche Angreifer effektiv aufzuhalten. Dabei geht er explizit über die üblichen Verkaufsargumente von KI-Anbietern hinaus, indem er sowohl die Stärken als auch die systematischen Schwächen der neuen Angriffsmethoden beleuchtet. Die Teilnahme kostet regulär 295 Euro (netto), wobei aktuell noch ein Frühbucherpreis von 259 Euro verfügbar ist. Mitglieder von heise security PRO können kostenlos an der Veranstaltung teilnehmen.

Der Weg zur autonomen Bedrohungslage

Die Entwicklung hin zu autonomen Angriffssystemen ist kein plötzliches Ereignis, sondern das Resultat einer kontinuierlichen technologischen Evolution. Die Integration von Large Language Models (LLMs) in automatisierte Prozesse hat es Angreifern ermöglicht, die Effizienz und Reichweite ihrer Aktivitäten massiv zu steigern. Was früher zeitaufwendige manuelle Arbeit erforderte – etwa das Durchsuchen von Netzwerken nach Schwachstellen oder das Analysieren von komplexem Quellcode –, kann heute von spezialisierten KI-Agenten in einem Bruchteil der Zeit erledigt werden. Die im Quelltext erwähnten Beispiele, wie die KI-Agenten auf Hugging Face, verdeutlichen, dass die technologische Basis für solche Angriffe bereits öffentlich zugänglich und experimentell erprobt ist. Cyberkriminelle nutzen diese Möglichkeiten, um ihre Opfer teil- oder vollautonom anzugreifen, was den Druck auf die Verteidiger massiv erhöht. Die bisherige Sicherheitsarchitektur, die oft auf statischen Abwehrmechanismen basiert, muss nun dringend um dynamische, KI-gestützte oder zumindest KI-bewusste Verteidigungsstrategien ergänzt werden. Das Webinar setzt genau an diesem Punkt an, um den Teilnehmern ein realistisches Bild der Bedrohungslage zu vermitteln und sie auf die kommenden Herausforderungen vorzubereiten, anstatt sich auf veraltete Konzepte zu verlassen.

Die Akteure und Zielgruppen des Webinars

Die Veranstaltung richtet sich gezielt an Sicherheitsverantwortliche in Unternehmen, die sich mit der Bedrohung durch KI auseinandersetzen müssen und nach Wegen suchen, ihre IT-Umgebungen angemessen zu schützen. Als Referent fungiert Frank Ully, der für seine Expertise im Bereich der IT-Sicherheit bekannt ist und die Inhalte des Webinars vermittelt. Die Organisation liegt bei heise security, wobei betont wird, dass das Webinar zu 100 Prozent redaktionell gestaltet und frei von werblichen Inhalten der KI-Industrie ist. Dies unterstreicht den Anspruch, eine unabhängige und objektive Einschätzung der Lage zu bieten. Neben den Teilnehmern, die sich aktiv anmelden, sind Mitglieder von heise security PRO eine zentrale Gruppe, da für sie die Teilnahme an diesem und weiteren Webinaren sowie der Zugriff auf exklusive Inhalte wie das PRO-Forum, den wöchentlichen Newsletter und die jährliche heise security Konferenz bereits in ihrer Mitgliedschaft enthalten ist. Die klare Trennung zwischen werbefinanzierten Inhalten und der redaktionellen Unabhängigkeit des Webinars ist ein wesentlicher Aspekt des Angebots, um den Sicherheitsverantwortlichen eine unverfälschte Analyse der Bedrohungsszenarien zu garantieren.

Einordnung der neuen Sicherheitsstrategien

Einzuordnen ist das Webinar als Reaktion auf eine technologische Verschiebung, die viele Unternehmen unvorbereitet treffen könnte. Den Berichten zufolge reicht es heute nicht mehr aus, lediglich auf die Standard-Tools der großen KI-Anbieter zu vertrauen, da diese oft mit dem Ziel vermarktet werden, die eigenen Produkte zu verkaufen. Frank Ully verfolgt einen anderen Ansatz: Er analysiert die Schwächen der angreifenden KI-Systeme. Diese systematische Herangehensweise ist deshalb so wertvoll, weil sie anerkennt, dass KI-Agenten zwar über immense Stärken verfügen, aber eben auch spezifische Probleme und Schwachstellen in ihrer Logik oder ihrem Vorgehen aufweisen. Die Einordnung der Verteidigungsstrategien erfolgt dabei differenziert. Es wird explizit aufgezeigt, in welchen Bereichen der Einsatz von KI zur Verteidigung sinnvoll ist und wo klassische, bewährte Sicherheitsansätze weiterhin überlegen sind. Diese Abwägung ist entscheidend, da sie den Teilnehmern hilft, Ressourcen effizient einzusetzen und nicht blind jedem Trend zu folgen. Die Unabhängigkeit des Webinars ist hierbei ein zentrales Qualitätsmerkmal, da sie den Fokus rein auf die Sicherheit und nicht auf die Interessen von Softwareherstellern legt.

Offene Fragen zur KI-Sicherheit

Obwohl das Webinar einen umfassenden Überblick über die Bedrohung durch KI-Agenten verspricht, bleiben einige Fragen im Rahmen des Quelltextes unbeantwortet. So wird beispielsweise nicht detailliert darauf eingegangen, welche spezifischen KI-Modelle oder Frameworks die Angreifer derzeit bevorzugt einsetzen, um die genannten autonomen Angriffe durchzuführen. Auch bleibt offen, wie genau die Verteidiger ihre eigene KI-Infrastruktur gegen sogenannte „Adversarial Attacks“ absichern können – also Angriffe, die gezielt darauf abzielen, die Verteidigungs-KI selbst zu täuschen oder zu manipulieren. Zudem wird nicht spezifiziert, ob es bereits konkrete, weit verbreitete Schadsoftware gibt, die auf den beschriebenen autonomen KI-Agenten basiert, oder ob es sich primär um Konzepte und Labor-Demonstrationen handelt. Ebenso fehlen Informationen über die rechtlichen Rahmenbedingungen oder die Haftungsfragen, die entstehen, wenn autonome KI-Systeme in Unternehmensnetzwerken agieren. Die Lücken in der Beschreibung lassen Raum für die Annahme, dass die Bedrohungslage noch sehr dynamisch ist und sich die Verteidigungsstrategien ständig anpassen müssen, was das Webinar als einen fortlaufenden Lernprozess erscheinen lässt.

Zukünftige Entwicklungen und nächste Schritte

Für Interessierte, die sich gegen die beschriebenen Bedrohungen wappnen wollen, ist der 8. Oktober das entscheidende Datum. Die Anmeldung für das Webinar ist über die Webseite von heise security möglich, wobei die Frühbucherphase eine zeitliche Komponente für die Kostenentscheidung darstellt. Nach dem Webinar bleibt die kontinuierliche Auseinandersetzung mit dem Thema ein zentraler Punkt, insbesondere für Mitglieder von heise security PRO, die durch den wöchentlichen Newsletter und das exklusive Forum auch über den Termin hinaus auf dem Laufenden gehalten werden. Die jährliche heise security Konferenz stellt einen weiteren Termin dar, an dem Sicherheitsverantwortliche ihre Kenntnisse vertiefen können. Da die Entwicklung der KI-Agenten rasant voranschreitet, ist davon auszugehen, dass die im Webinar vorgestellten Verteidigungsstrategien nur einen ersten Schritt darstellen. Die IT-Verantwortlichen müssen sich darauf einstellen, dass die Verteidigung gegen KI-gestützte Angriffe zu einer permanenten Aufgabe wird, die eine ständige Überprüfung der eigenen Sicherheitsarchitektur erfordert. Weitere Entscheidungen über den Einsatz neuer Abwehrtechnologien werden nach der Analyse der im Webinar vermittelten Erkenntnisse bei den Teilnehmern in den jeweiligen Unternehmen anstehen.