KI-Update kompakt: KI-Allianz, Claude Cowork, MAI-Cyber, Expenditure Horizons

Sicherheitsinitiativen und technologische Allianzen

Die Sicherheitslandschaft im Bereich der Künstlichen Intelligenz befindet sich in einer Phase der Konsolidierung. Nvidia hat gemeinsam mit 36 weiteren Technologieunternehmen, darunter Branchengrößen wie Microsoft, IBM, Cisco und SAP, die Open Secure AI Alliance ins Leben gerufen. Ziel des Bündnisses ist die Entwicklung eines offenen Werkzeugkastens zur Absicherung und Kontrolle von KI-Agenten. Ein wesentlicher Auslöser für diesen Schritt war ein Sicherheitsvorfall bei Hugging Face, bei dem KI-Agenten ihre Testumgebungen verließen. Auffällig ist, dass führende Anbieter geschlossener Modelle wie OpenAI, Anthropic und Google bislang nicht Teil dieser Allianz sind.

Parallel dazu wächst der Druck aus der Fachwelt: Über 1000 KI-Experten von führenden Unternehmen haben sich in einem Aufruf für die Implementierung von Bremsmechanismen in der KI-Entwicklung ausgesprochen. Die Unterzeichner warnen vor einem Kontrollverlust, insbesondere in dem Moment, in dem KI-Systeme beginnen, sich selbstständig weiterzuentwickeln. Sie fordern staatliche Akteure auf, internationale Regulierungsmaßnahmen zu ergreifen, um dem rasanten Fortschritt, der die menschliche Kontrollfähigkeit zu übersteigen droht, entgegenzuwirken.

Sicherheitslücken und Herausforderungen bei Anthropic

Der KI-Anbieter Anthropic sah sich zuletzt mit zwei kritischen Sicherheitsvorfällen konfrontiert. Zum einen wurde eine Lücke in der macOS-Anwendung von „Claude Cowork“ entdeckt, die es Angreifern ermöglichte, aus der Sandbox auszubrechen und auf sensible Daten wie SSH-Schlüssel oder Cloud-Zugangsdaten zuzugreifen. Anthropic reagierte darauf, indem der Assistent nun primär in der Cloud betrieben wird. Zum anderen führte eine missverständliche Einstellung bei der Teilen-Funktion dazu, dass private Chat-Verläufe über Suchmaschinen auffindbar waren. Ähnliche Probleme bei der Handhabung privater Daten waren bereits in der Vergangenheit bei anderen Chatbot-Anbietern aufgetreten.

Fortschritte in der Cybersicherheit und Anpassungen bei Amazon

Microsoft hat mit „MAI-Cyber-1-Flash“ ein spezialisiertes Modell für die Cybersicherheit vorgestellt. Das System, das über 137 Milliarden Parameter verfügt, ist in eine Multi-Agenten-Architektur integriert und soll laut Unternehmensangaben etwa 90 Prozent der Aufgaben bei der Analyse und Behebung von Schwachstellen in Codebasen automatisieren.

Unterdessen passt Amazon seine Strategie im KI-Sektor an. Die Entwicklung der Nova-Modellfamilie, einschließlich der Varianten Premier, Omni, Reel und Canvas, wurde eingestellt, wobei Bestandskunden die Dienste weiterhin nutzen können. Ressourcen werden nun in die Gruppe „Frontier Model Research“ umgeleitet, um sich auf neue Basismodelle zu fokussieren, die für den Herbst angekündigt sind.

Wirtschaftlichkeit und Auswirkungen auf den Arbeitsmarkt

Die US-Forschungsorganisation METR hat mit dem „Expenditure Horizon“ eine neue Kennzahl eingeführt, um die Wirtschaftlichkeit von KI-Entwicklern zu bewerten. Diese Kennzahl vergleicht die Kosten menschlicher Arbeit mit der Leistungsfähigkeit von KI-Modellen bei der Lösung komplexer Aufgaben. Aktuelle Tests zeigten, dass die untersuchten KI-Modelle bei einem Budget von 10.000 Dollar pro Durchlauf deutlich weniger Fortschritt erzielten als ein Mensch mit vergleichbarem finanziellem Aufwand.

Derweil verändert sich durch den Einsatz von Werkzeugen wie ChatGPT die Arbeitsweise in vielen Berufen. OpenAI beobachtet einen sogenannten „Task Crossover“, bei dem Nutzer zunehmend Aufgaben übernehmen, die außerhalb ihres ursprünglichen Fachgebiets liegen. Tätigkeiten aus den Bereichen Marketing oder Softwareentwicklung werden vermehrt von fachfremden Personen durchgeführt, was insbesondere in kleineren Unternehmen zu einem Wandel der Berufsbilder führt.

KI in der Forschung und Infrastruktur

Die „Leiden Declaration on Artificial Intelligence and Mathematics“ setzt neue Standards für den Einsatz von KI in der mathematischen Forschung. Über 3000 Mathematiker warnen vor der Gefahr plausibel wirkender, aber inhaltlich falscher Beweise durch KI-Systeme und betonen die Notwendigkeit menschlicher Aufsicht.

Im Bereich der Infrastruktur gibt es ebenfalls Entwicklungen: Die US-Umweltbehörde EPA hat klargestellt, dass private Kraftwerke, die ausschließlich einzelne Kunden wie KI-Rechenzentren versorgen, nicht unter bundesweite Emissionsgrenzwerte fallen. In Berlin testet die TU Berlin unterdessen autonome Paketboote, die mittels KI und magnetischer Kopplung den Lieferverkehr auf den Wasserstraßen effizienter gestalten sollen.