OpenAI löst Preparedness-Team für KI-Risiken auf

Was geschehen ist: Die Auflösung des Preparedness-Teams

OpenAI hat eine weitreichende strukturelle Entscheidung getroffen und sein sogenanntes Preparedness-Team mit sofortiger Wirkung aufgelöst. Diese spezialisierte Einheit war innerhalb des Unternehmens explizit damit beauftragt, KI-Modelle auf schwerwiegende, potenziell katastrophale Risiken hin zu untersuchen. Die Zielsetzung des Teams bestand darin, Sicherheitslücken zu identifizieren, bevor diese durch die Veröffentlichung neuer Modelle oder deren breite Anwendung in der Praxis zu einer realen Gefahr werden könnten. Die Auflösung der Abteilung markiert einen signifikanten Einschnitt in der Sicherheitsarchitektur des ChatGPT-Herstellers. Anstatt die Prüfung auf katastrophale Risiken in einer dedizierten, unabhängigen Einheit zu bündeln, hat sich das Unternehmen dazu entschieden, die Verantwortlichkeiten auf bereits bestehende Fachabteilungen zu verteilen. Diese Umstrukturierung erfolgt in einer Phase, in der die Debatte über die Sicherheit von Künstlicher Intelligenz weltweit an Intensität gewinnt. Die Entscheidung wurde nicht durch eine offizielle öffentliche Stellungnahme von OpenAI begleitet, was in der Branche für erhebliche Aufmerksamkeit sorgt. Die betroffenen Aufgabenbereiche umfassen unter anderem die Analyse von Risiken, die mit der Entwicklung biologischer, chemischer oder nuklearer Bedrohungen in Verbindung stehen könnten. Auch die Untersuchung von Sicherheitsvorfällen, wie etwa das eigenständige Hacken von Plattformen wie Hugging Face durch KI-Systeme, gehörte zum Kernauftrag der aufgelösten Einheit. Die Verlagerung dieser komplexen Aufgaben in bestehende Strukturen wirft grundlegende Fragen zur Priorisierung der Sicherheit innerhalb des Unternehmens auf.

Die Einzelheiten der Umstrukturierung

Die Details der Umstrukturierung zeichnen ein Bild von einer zunehmenden Dezentralisierung der Sicherheitskontrollen bei OpenAI. Wie aus Berichten der Financial Times hervorgeht, werden die bisherigen Aufgaben des Preparedness-Teams nun in die täglichen Abläufe anderer Fachabteilungen integriert. Dylan Scandinaro, der das Preparedness-Team seit Februar 2026 leitete, wird dem Unternehmen erhalten bleiben, jedoch in einer neuen Funktion. Er soll sich zukünftig primär mit den Sicherheitsimplikationen von rekursiv selbstverbessernder KI beschäftigen. Dabei handelt es sich um Systeme, die ihre eigenen Fähigkeiten nutzen, um nachfolgende Generationen von KI-Modellen zu entwickeln und deren Leistungsfähigkeit zu beschleunigen. Dieser Bereich gilt in der Forschung als besonders kritisch, da er die Dynamik der KI-Entwicklung massiv beeinflussen kann. Die Auflösung des Teams ist kein isoliertes Ereignis, sondern fügt sich in eine Reihe von Abgängen und Umstrukturierungen ein. So haben in den vergangenen Monaten mehrere hochrangige Führungskräfte das Unternehmen verlassen, darunter die Ethik-Leiterin Chloé Bakalar, die im Juli nach weniger als einem Jahr ihre Position aufgab. Auch der Chief Futurist Josh Achiam sowie der Safety-Chef Johannes Heidecke haben das Unternehmen erst vor Kurzem verlassen. Diese personelle Fluktuation betrifft zentrale Bereiche der Sicherheits- und Ethik-Governance, was die interne Dynamik bei OpenAI weiter unterstreicht.

Hintergrund: Ein Muster der Veränderung

Die Auflösung des Preparedness-Teams ist keineswegs ein einmaliger Vorgang, sondern stellt bereits die dritte spezialisierte Sicherheitseinheit dar, die innerhalb der letzten zwei Jahre bei OpenAI aufgelöst wurde. Diese Entwicklung lässt sich bis in das Jahr 2024 zurückverfolgen. Im Mai 2024 wurde das sogenannte Superalignment-Team abgewickelt, nachdem dessen Leiter Jan Leike das Unternehmen unter öffentlicher Kritik verlassen hatte. Leike hatte dem Management damals vorgeworfen, Sicherheitsaspekte zugunsten der Entwicklung und Vermarktung glänzender Produkte zu vernachlässigen. Kurz darauf folgte die Auflösung des AGI-Readiness-Teams. Dieses Team hatte den Auftrag, zu bewerten, wie gut OpenAI selbst und die globale Gemeinschaft auf das Erreichen einer Künstlichen Allgemeinen Intelligenz (AGI) vorbereitet sind. Die systematische Auflösung dieser spezialisierten Einheiten deutet auf eine grundlegende strategische Neuausrichtung hin. Während OpenAI in der Vergangenheit explizite Teams für die langfristige Sicherheitsforschung und die Vorbereitung auf existenzielle Risiken unterhielt, scheint der Fokus nun stärker auf die operative Integration von Sicherheitsaspekten in die Produktentwicklung verschoben zu werden. Die Historie dieser Abteilungen verdeutlicht, dass die interne Debatte über das richtige Gleichgewicht zwischen Innovationstempo und Sicherheitsvorsorge bei OpenAI seit Längerem besteht und nun in einer neuen Organisationsstruktur mündet.

Die Beteiligten und ihre Rollen

An der aktuellen Entwicklung sind verschiedene Akteure beteiligt, deren Rollen innerhalb des Unternehmensgefüges von zentraler Bedeutung sind. Dylan Scandinaro, der den Übergang von der Preparedness-Einheit zur Forschung an selbstverbessernder KI vollzieht, nimmt dabei eine Schlüsselrolle ein. Seine neue Ausrichtung unterstreicht die technische Komplexität, mit der sich OpenAI künftig auseinandersetzen will. Die Abgänge von Führungskräften wie Chloé Bakalar, der einzigen explizit für Ethik zuständigen Person im Unternehmen, werfen ein Schlaglicht auf die personelle Besetzung der ethischen Aufsicht. Ebenso markieren die Weggänge von Josh Achiam als Chief Futurist und Johannes Heidecke als Safety-Chef den Verlust von Expertise in strategisch wichtigen Sicherheitsfeldern. Institutionell betrachtet steht OpenAI als Unternehmen im Zentrum, das die Verantwortung für die Gestaltung und Sicherheit seiner KI-Modelle trägt. Die Financial Times fungierte in diesem Zusammenhang als Quelle für die Details der internen Umstrukturierung, da OpenAI selbst bislang keine offizielle Stellungnahme zu den Veränderungen veröffentlicht hat. Die betroffenen Teams und die ehemaligen Führungskräfte repräsentieren dabei die verschiedenen Strömungen innerhalb des Unternehmens, die zwischen dem Streben nach technologischem Fortschritt und der Notwendigkeit einer robusten Sicherheitskultur abwägen müssen.

Einordnung der Entwicklung

Einzuordnen ist diese Entwicklung als ein deutliches Signal für eine veränderte Unternehmenskultur bei OpenAI. Den Berichten zufolge deutet die Auflösung der dritten Sicherheitseinheit innerhalb kurzer Zeit auf eine Abkehr von einer dedizierten, unabhängigen Sicherheitsforschung hin. Kritiker könnten dies als eine Schwächung der internen Kontrollinstanzen interpretieren, insbesondere vor dem Hintergrund der früheren Kritik von Jan Leike, der die Priorisierung von Produktveröffentlichungen gegenüber Sicherheitsbedenken anprangerte. Die Integration der Sicherheitsaufgaben in bestehende Fachabteilungen kann zwar theoretisch zu einer effizienteren Verzahnung von Entwicklung und Sicherheit führen, sie birgt jedoch das Risiko, dass die Unabhängigkeit der Risikobewertung verloren geht. Wenn die Teams, die ein Produkt entwickeln, gleichzeitig für dessen Sicherheitsprüfung zuständig sind, könnten Interessenkonflikte entstehen. Die Tatsache, dass OpenAI keine öffentliche Stellungnahme zu diesen weitreichenden organisatorischen Änderungen abgegeben hat, lässt zudem Raum für Interpretationen über die Transparenz des Unternehmens. Die aktuelle Umstrukturierung ist somit als ein bedeutender Schritt in der Unternehmensgeschichte zu bewerten, der die Prioritäten von OpenAI in einer kritischen Phase der KI-Entwicklung widerspiegelt.

Offene Fragen und Lücken im Wissensstand

Trotz der vorliegenden Informationen gibt es zahlreiche Aspekte, die der Quelltext nicht beantworten kann. Zunächst bleibt unklar, wie genau die "Verteilung der Verantwortlichkeiten" auf die bestehenden Fachabteilungen in der Praxis aussehen wird. Es ist nicht ersichtlich, welche konkreten Abteilungen diese Aufgaben übernehmen und ob diese über die notwendigen Ressourcen und die erforderliche Unabhängigkeit verfügen, um die gleichen Sicherheitsstandards wie das ehemalige Preparedness-Team zu gewährleisten. Zudem fehlen Informationen darüber, ob die Auflösung des Teams mit einer Reduzierung des Personals in diesem Bereich einhergeht oder ob alle Mitarbeiter in andere Abteilungen integriert wurden. Auch die Beweggründe für die Auflösung, sofern sie über die bloße Umstrukturierung hinausgehen, werden nicht explizit genannt. Es bleibt offen, inwieweit die Unternehmensführung die Kritik an der Sicherheitsstrategie in ihre Entscheidung einbezogen hat. Schließlich gibt der Quelltext keine Auskunft darüber, welche internen Mechanismen nun sicherstellen sollen, dass katastrophale Risiken bei zukünftigen Modellen effektiv erkannt und verhindert werden. Die konkreten Auswirkungen auf die Sicherheitsprotokolle bei der Entwicklung neuer KI-Generationen bleiben somit eine offene Frage, die erst durch zukünftige Entwicklungen oder Stellungnahmen beantwortet werden kann.

Wie es weitergeht

Die Zukunft der Sicherheitsforschung bei OpenAI ist eng mit der neuen Ausrichtung von Dylan Scandinaro verknüpft. Seine Arbeit an den Sicherheitsimplikationen von rekursiv selbstverbessernder KI wird nun einen wesentlichen Teil der Bemühungen darstellen, die technologischen Risiken der nächsten Generationen zu verstehen. Es ist davon auszugehen, dass die Integration der ehemaligen Aufgaben des Preparedness-Teams in die bestehenden Fachabteilungen in den kommenden Monaten abgeschlossen wird. Beobachter werden genau verfolgen, ob OpenAI in der Lage ist, die Sicherheitsstandards trotz der strukturellen Veränderungen aufrechtzuerhalten. Da keine weiteren offiziellen Termine oder Ankündigungen zu einer neuen Sicherheitsstrategie vorliegen, bleibt die Entwicklung der internen Governance ein Prozess, der sich im laufenden Betrieb vollzieht. Die Branche wird insbesondere darauf achten, ob es zu weiteren Abgängen von Führungskräften kommt oder ob das Unternehmen durch neue Initiativen versucht, das Vertrauen in seine Sicherheitskultur zu stärken. Die nächsten Produktveröffentlichungen von OpenAI werden als Indikator dafür dienen, ob die neue, integrierte Sicherheitsstruktur den Anforderungen an eine verantwortungsvolle KI-Entwicklung gerecht werden kann.