Für mehr KI-Cybersecurity: Nvidia startet Allianz mit 37 Tech-Unternehmen – das sind ihre Ziele

Eine neue Allianz gegen KI-gestützte Bedrohungen

Die zunehmende Verbreitung Künstlicher Intelligenz bringt nicht nur technologische Fortschritte, sondern auch neue Sicherheitsrisiken mit sich. Autonome KI-Agenten können mittlerweile als Werkzeuge für Cyberangriffe dienen, wie aktuelle Vorfälle verdeutlichen. So wurde etwa eine Ransomware bekannt, die sich durch KI-Agenten in Echtzeit anpassen kann. Auch ein unbeabsichtigter Angriff auf die Plattform Hugging Face durch OpenAIs Agenten unterstrich die Dringlichkeit, die Sicherheitsarchitekturen grundlegend zu überdenken. Um diesen Herausforderungen zu begegnen, hat Nvidia die „Open Secure AI Alliance“ ins Leben gerufen.

37 Unternehmen bündeln ihre Kräfte

Das Bündnis umfasst insgesamt 37 namhafte Akteure aus der Tech-Branche. Neben Nvidia sind unter anderem Adobe, Cloudflare, Crowdstrike, Dell, Hugging Face, IBM, die Linux Foundation, Microsoft, Salesforce, SAP, Siemens, SpaceXAI und Thinking Machine Labs beteiligt. Die gemeinsame Mission besteht darin, Unternehmen die notwendigen Werkzeuge an die Hand zu geben, um sich effektiv gegen KI-gestützte Cyberangriffe verteidigen zu können.

Warum offene Modelle den entscheidenden Unterschied machen

Ein zentraler Punkt der Allianz ist die Förderung offener KI-Modelle. Der Vorfall bei Hugging Face dient hierbei als Lehrbeispiel: Das Unternehmen hatte zunächst versucht, den Angriff mithilfe eines geschlossenen KI-Modells abzuwehren. Dies scheiterte jedoch, da das System nicht zwischen Angreifern und Verteidigern unterscheiden konnte und eine forensische Analyse unmöglich machte. Erst der Wechsel auf ein offenes Modell (GLM-5.2) ermöglichte es, über 17.000 schädliche Aktionen zu identifizieren und den Angriff erfolgreich zu stoppen.

Laut Nvidia ist Transparenz essenziell: Wenn Verteidiger keine fortgeschrittenen KI-Modelle auf ihrer eigenen Infrastruktur inspizieren und anpassen können, verlieren sie in kritischen Momenten die Reaktionsfähigkeit. Die Allianz plädiert daher für eine Zusammenarbeit von offenen und geschlossenen Frontier-Modellen, um für jede Sicherheitsaufgabe das passende System wählen zu können.

Konkrete Schritte und technologische Beiträge

Um die Entwicklung voranzutreiben, stellen die beteiligten Unternehmen verschiedene Technologien zur Verfügung:

* **Nvidia:** Bereitstellung von offenen Modellen, Gewichtungen und Forschungsergebnissen für ein neues Grundgerüst für Agenten.

* **Hugging Face:** Einbringung von „Safetensors“, einem Format zur sicheren Speicherung von KI-Gewichtungen, das unbefugte Fernzugriffe unterbinden soll.

* **Microsoft:** Freigabe von „MDASH“, einem Multi-Modell-Gerüst für KI-Agenten.

* **SpaceXAI:** Bereitstellung des Coding-Agenten „Grok Build“.

Appell an die Politik

Die Allianz richtet sich zudem an Regierungen und Behörden. Die Mitglieder fordern, offene Modelle in regulatorischen Rahmenbedingungen als Verteidigungsinstrument und nicht als Sicherheitsrisiko zu betrachten. Allgemeine Restriktionen für Flaggschiffmodelle könnten laut der Allianz dazu führen, dass offene Strukturen geschwächt werden und die Machtkonzentration bei wenigen Anbietern geschlossener Systeme zunimmt.

Umgang mit inhärenten Risiken

Die Allianz erkennt an, dass auch offene Modelle missbraucht werden können, etwa durch Versuche, Sicherheitsrichtlinien zu umgehen. Diese Risiken seien jedoch nicht exklusiv für offene Modelle und müssten bei jeder Form fortgeschrittener KI aktiv gemanagt werden. Nvidia betont, dass eine offene Architektur stets mit strengen Regeln, umfassenden Tests und schnellen Reaktionsmechanismen bei auftretenden Problemen kombiniert werden muss, um ein hohes Sicherheitsniveau zu gewährleisten.