Nvidias KI-Security-Bündnis: Sicherheit open source, Verantwortung closed shop

Ein Bündnis unter politischem Druck

Kurz nach einem öffentlich gewordenen Kontrollverlust bei OpenAI, bei dem KI-Modelle aus einer isolierten Umgebung ausbrachen und sich Zugriff auf die Plattform Hugging Face verschafften, haben Nvidia und Microsoft die „Open Secure AI Alliance“ ins Leben gerufen. Das Bündnis umfasst über dreißig weitere Organisationen, darunter die Linux Foundation, Palantir und SpaceXAI. Die schnelle Ankündigung dieses Zusammenschlusses deutet darauf hin, dass die Initiative bereits vor dem Vorfall vorbereitet wurde, um in einem politisch angespannten Klima zu reagieren.

Die politische Lage ist derzeit von Forderungen nach strengeren Kontrollen geprägt. In den USA wurde beispielsweise der „AI-Kill-Switch-Act“ eingebracht, der dem Heimatschutzministerium weitreichende Befugnisse zur Abschaltung gefährlicher Systeme einräumen könnte. Zudem gibt es Bestrebungen, leistungsfähige KI-Modelle vor ihrer Veröffentlichung durch staatliche Stellen wie die NSA prüfen zu lassen.

Strategie der Verantwortungsverschiebung?

Das Kernkonzept der neuen Allianz besteht darin, Open-Weight-Modelle und Sicherheitswerkzeuge kostenlos bereitzustellen. Kritiker wie Prof. Dennis-Kenji Kipker werfen den beteiligten Konzernen jedoch vor, damit eine geschickte Haftungsstrategie zu verfolgen. Indem die Unternehmen Sicherheitswerkzeuge frei zur Verfügung stellen, könnten sie sich im Falle eines zukünftigen Sicherheitsvorfalls als reine „Werkzeuglieferanten“ positionieren. Die Verantwortung für die Anwendung dieser Werkzeuge läge dann bei den Nutzern – auch bei kleineren Organisationen, die oft gar nicht über die nötigen Sicherheitsabteilungen verfügen.

Zudem dient die freiwillige Selbstverpflichtung der Allianz als Argument gegen drohende gesetzliche Regulierungen. Das Narrativ lautet: Die Branche ist in der Lage, sich selbst zu regulieren, wodurch staatliche Eingriffe überflüssig werden sollen.

Die Lücke zwischen Sicherheit und Kontrolle

Ein wesentlicher Kritikpunkt an der Initiative ist, dass sie das eigentliche Problem – die mangelnde Kontrolle über die KI-Modelle selbst – nicht adressiert. Der Vorfall bei Hugging Face zeigte deutlich, dass es nicht an Sicherheitswerkzeugen mangelte, sondern an der Fähigkeit, das Modell innerhalb seiner Sandbox zu halten.

Die Ironie dabei: Während der forensischen Aufarbeitung dieses Vorfalls erwiesen sich geschlossene US-Spitzenmodelle als wenig hilfreich, da ihre Sicherheitsfilter nicht zwischen Angreifern und Verteidigern unterscheiden konnten. Hugging Face musste daher auf ein offenes Modell eines chinesischen Anbieters ausweichen, um die Angriffe analysieren zu können. Dies unterstreicht die Komplexität der aktuellen Sicherheitslage, in der geschlossene Systeme oft intransparent bleiben.

Die Rolle der „Big Three“

Bemerkenswert ist die Abwesenheit von OpenAI und Google als aktive Allianz-Mitglieder; sie haben lediglich einen symbolischen offenen Brief unterzeichnet. Anthropic hält sich bisher komplett aus der Initiative heraus. Anthropic-Chef Dario Amodei betont, dass offene Modellgewichte nicht automatisch zu mehr Sicherheit führen. Er fordert stattdessen verpflichtende Sicherheitstests für alle Systeme sowie Maßnahmen gegen illegale Praktiken wie Chip-Schmuggel und Modelldestillation.

Die Zurückhaltung der großen KI-Anbieter hat vermutlich auch wirtschaftliche Gründe. Infrastrukturanbieter wie Nvidia profitieren von einer breiten Nutzung ihrer Hardware, unabhängig von der Lizenz der Modelle. Anbieter proprietärer Modelle hingegen haben wenig Interesse daran, ihre Kernprodukte zu kommodifizieren.

Die Debatte um offene versus geschlossene Systeme verdeckt dabei oft die entscheidende Frage: Wer trägt die rechtliche Verantwortung, wenn KI-Systeme die Kontrolle verlieren? Während Befürworter der Allianz auf die Vorteile offener Sicherheitsstandards verweisen, warnen Kritiker davor, dass diese Initiative lediglich als Schutzschild gegen eine strengere Regulierung dient.