Astra: OpenAI will neues KI-Modell vorerst nicht veröffentlichen

Sicherheitsbedenken bei OpenAI: Astra bleibt unter Verschluss

Die Entwicklung leistungsfähiger Künstlicher Intelligenz bringt neue Herausforderungen für die Cybersicherheit mit sich. OpenAI hat nun offiziell bekannt gegeben, dass die Veröffentlichung seines neuesten Modells, intern unter dem Namen „Astra“ geführt, auf unbestimmte Zeit verschoben wird. Hintergrund dieser Entscheidung sind interne Sicherheitstests, die Ergebnisse lieferten, welche eine Einstufung als „kritisch“ im Bereich der Cybersicherheit nicht mehr ausschließen lassen.

Das Preparedness Framework als Kontrollinstanz

Um die Risiken seiner KI-Systeme zu bewerten, nutzt OpenAI ein bereits im Dezember 2023 eingeführtes „Preparedness Framework“. Dieses Regelwerk definiert klare Schwellenwerte für verschiedene Risikokategorien, darunter Biologie, Chemie sowie Hacking-Fähigkeiten. Zum Zeitpunkt der Einführung des Rahmens waren die damals verfügbaren Modelle noch weit von den nun bei Astra beobachteten Fähigkeiten entfernt.

Im Vergleich dazu wurden andere aktuelle Systeme, wie beispielsweise GPT 5.6 Sol, zwar ebenfalls auf ihre Cyberfähigkeiten hin untersucht, jedoch lediglich in die Kategorie „hoch“ eingestuft. Astra hingegen nähert sich der höchsten Gefahrenstufe „kritisch“ an, was das Unternehmen dazu veranlasste, die Reißleine zu ziehen.

Wann gilt eine KI als kritisch?

Die Definition von „kritisch“ ist im Framework von OpenAI präzise festgelegt. Ein Modell erreicht diese Stufe, wenn es in der Lage ist, eigenständig und ohne menschliche Intervention funktionierende Exploits zu entwickeln. Dies umfasst insbesondere die Identifizierung bisher unbekannter Sicherheitslücken in gut geschützten realen IT-Systemen. Ebenso greift die Einstufung, wenn die KI in der Lage ist, allein auf Basis eines übergeordneten Ziels einen vollständigen Cyberangriff auf ein System zu planen und auszuführen.

Konsequenzen und Sicherheitsmaßnahmen

Obwohl die Tests an Astra noch nicht abgeschlossen sind, bewertet OpenAI die bisherigen Anzeichen als so signifikant, dass eine Veröffentlichung derzeit nicht vertretbar erscheint. Das Unternehmen betont dabei, dass dieser Schritt in keinem Zusammenhang mit dem kürzlich bekannt gewordenen Sicherheitsvorfall bei Hugging Face steht.

Als direkte Reaktion auf die Testergebnisse hat OpenAI seine Sicherheitsvorkehrungen massiv ausgeweitet:

* **Isolierte Testumgebungen:** Die Arbeit mit dem Modell findet in abgeschotteten Bereichen statt, um unkontrollierte Interaktionen zu vermeiden.

* **Netzwerkbeschränkungen:** Der Zugriff auf externe Netzwerke und Werkzeuge wurde drastisch eingeschränkt.

* **Schutz der Modellgewichte:** Die sensiblen Daten des Modells werden stärker geschützt, um Missbrauch zu verhindern.

* **Engmaschige Überwachung:** Das Verhalten des Modells bei eigenständigen Aufgaben wird kontinuierlich kontrolliert.

Aktueller Status der Entwicklung

Teile der internen Entwicklungsarbeit an Astra wurden vorerst pausiert, sofern die neuen Sicherheitsvorgaben noch nicht vollständig implementiert sind. Zudem hat das Unternehmen eine automatisierte Überwachung der „agentischen“ Prozesse eingeführt. Diese Mechanismen sind in der Lage, während des Trainings oder der Auswertung Aktivitäten zu identifizieren, die als riskant eingestuft werden, und diese gegebenenfalls sofort zu unterbrechen.

Die Entscheidung von OpenAI verdeutlicht, wie komplex die Balance zwischen technologischem Fortschritt und der Vermeidung potenzieller Gefahren für die digitale Infrastruktur geworden ist. Die weitere Entwicklung von Astra wird nun maßgeblich davon abhängen, ob es gelingt, die Fähigkeiten des Modells in sichere Bahnen zu lenken, ohne das Potenzial der Technologie vollständig aufzugeben.