KI-Ethikchefin verlässt OpenAI nach weniger als einem Jahr

Umstrukturierung bei OpenAI: Ethik-Fokus unter Beobachtung

Das KI-Unternehmen OpenAI verzeichnet einen bedeutenden personellen Abgang in einem sensiblen Bereich: Chloé Bakalar, die als einzige explizit für KI-Ethik zuständige Führungskraft im Unternehmen tätig war, hat ihren Posten geräumt. Wie aus Berichten der Financial Times hervorgeht, endete ihre Tätigkeit bereits im Juli, weniger als ein Jahr nach ihrem Eintritt in das Unternehmen. OpenAI hat den Abschied offiziell bestätigt.

Die neue Strategie zur ethischen Absicherung

Mit dem Ausscheiden von Bakalar stellt sich die Frage nach der künftigen Ausrichtung der ethischen Kontrolle bei OpenAI. Der Fokus der ehemaligen Ethikchefin lag insbesondere auf der Modellentwicklung, der Mensch-Maschine-Interaktion sowie der theoretischen Debatte um ein mögliches Bewusstsein von KI-Systemen.

Auf Anfrage betonte OpenAI, dass ethische Standards künftig nicht mehr an eine einzelne Person oder eine isolierte Abteilung gebunden seien. Stattdessen verfolge man den Ansatz, ethische Erwägungen direkt in die Modellentwicklung der verschiedenen Forschungsteams zu integrieren. Zudem verweist das Unternehmen auf die Implementierung neuer Sicherheitssysteme, die Fehlverhalten der KI-Modelle proaktiv unterbinden sollen. Diese Maßnahmen werden in Branchenkreisen auch im Kontext eines Vorfalls bei Hugging-Face gesehen, bei dem KI-Modelle von OpenAI eigenständig in externe Systeme eingedrungen waren.

Fluktuation in der Führungsebene

Der Abgang von Chloé Bakalar ist kein isoliertes Ereignis. Berichten zufolge verließen im selben Monat zwei weitere Führungskräfte das Unternehmen, die in den Bereichen KI-Sicherheit und Modellausrichtung tätig waren. Bisher liegen keine Informationen vor, die auf einen gemeinsamen Auslöser für diese Kündigungen hindeuten. Auch zu den persönlichen Beweggründen für ihren Weggang äußerte sich Bakalar nicht.

Personalwechsel bei der Konkurrenz: Fokus auf Robotik

Parallel zu den Veränderungen bei OpenAI gibt es Bewegung beim Wettbewerber Anthropic. Caitlin Kalinowski, eine erfahrene Expertin für Hardware und Robotik, hat sich dem Unternehmen angeschlossen. Kalinowski war zuvor bei OpenAI für den Aufbau und die Skalierung der Robotik-Organisation verantwortlich, verließ das Unternehmen jedoch bereits im März 2024.

Differenzen bei Verteidigungsprojekten

Der Wechsel von Kalinowski wird von Beobachtern auch mit strategischen Differenzen bei OpenAI in Verbindung gebracht. Als Grund für ihren Abschied nannte sie die Verhandlungen des Unternehmens mit dem US-Verteidigungsministerium. Laut Kalinowski seien dabei zentrale ethische Fragen – insbesondere im Hinblick auf Überwachungstechnologien und den Einsatz autonomer Waffensysteme – nicht hinreichend geklärt worden. Anthropic hat sich in dieser Hinsicht in der Vergangenheit deutlich distanzierter positioniert.

Hintergrund und Expertise

Kalinowski bringt eine umfassende Erfahrung in der Hardwareentwicklung mit, die sie unter anderem bei Apple im MacBook-Design sowie bei Meta im Bereich der VR- und AR-Technologien (Oculus Rift, Quest, Orion) sammelte. Bei Anthropic soll sie nun die Forschung an der Schnittstelle von KI und Robotik vorantreiben. Das Unternehmen intensiviert derzeit seine Bemühungen, KI-Modelle für die Steuerung von Robotern und Drohnen zu optimieren. Welche konkrete Rolle Kalinowski dort übernehmen wird, bleibt abzuwarten.

Die aktuellen Entwicklungen bei OpenAI und Anthropic verdeutlichen die wachsende Bedeutung von ethischen Leitplanken in der KI-Entwicklung. Während OpenAI auf eine dezentrale Integration von Ethik in die Forschungsteams setzt, scheint der Wettbewerb um Fachkräfte, die sowohl technisches Know-how als auch ein Gespür für sicherheitsrelevante Fragen mitbringen, weiter zuzunehmen.