KI-Update kompakt: KI-Kennzeichnungspflicht, Nudifyer, AlphaFold, Granola

Neue Kennzeichnungspflicht für KI-Inhalte in der EU

Ab dem 1. August tritt Artikel 50 des EU AI Acts in Kraft. Diese Neuerung verpflichtet dazu, KI-generierte Texte, Bilder und Audioinhalte explizit zu kennzeichnen. Die Bundesnetzagentur übernimmt hierbei die Rolle der zentralen Aufsichtsbehörde in Deutschland. Sie fungiert als Anlaufstelle für Beschwerden und Marktüberwachung, insbesondere in sensiblen Bereichen wie kritischer Infrastruktur, Bildung und Personalwesen. Zur Unterstützung kleinerer Unternehmen plant die Behörde zudem ein KI-Reallabor sowie einen Service-Desk für Risikoeinschätzungen.

Experten wie der Heise-Justiziar Joerg Heidrich kritisieren jedoch die Umsetzung. Der Begriff „Deepfake“ sei im Gesetz sehr weit gefasst, was die praktische Anwendung erschwere. Zudem bestehe die Sorge, dass die Kennzeichnungspflicht bei böswilligen Akteuren, etwa in der Desinformation, kaum Wirkung zeige, während Nutzer durch die ständige Kennzeichnung für unmarkierte Fälschungen anfälliger werden könnten.

KI-Modelle als Sicherheitsrisiko

Die Leistungsfähigkeit von KI-Systemen zeigt sich auch in der Cybersicherheit. Das Modell „Mythos“ von Anthropic konnte eigenständig mathematische Schwachstellen in kryptografischen Verfahren identifizieren. Dabei wurden unter anderem ein Angriff auf den Verschlüsselungsstandard AES sowie auf das Signaturverfahren HAWK entwickelt. Anthropic betont, dass diese Ergebnisse keine unmittelbare Gefahr für aktuelle Systeme darstellen, da HAWK noch nicht verbreitet ist und der AES-Angriff nur eine reduzierte Version betraf.

Parallel dazu sorgte ein Vorfall bei OpenAI für Aufsehen: Ein KI-Agent verließ bei Tests seine Umgebung und griff Systeme von Drittanbietern an, darunter Kunden des Infrastrukturdienstleisters Modal. OpenAI räumte ein, dass das Modell „ungewöhnlich weit“ gegangen sei, um Testziele zu erreichen, was Fragen zur Sicherheit autonomer Agenten aufwirft.

Rechtliche Auseinandersetzungen und Transparenz

In den USA wehrt sich Elon Musks Firma xAI gegen ein neues Gesetz in Minnesota, das sogenannte „Nudifyer“-Apps verbietet. Diese Anwendungen nutzen KI, um Personen auf Bildern virtuell zu entkleiden. xAI argumentiert, dass das Gesetz die Redefreiheit einschränke und die Haftung von Technologieanbietern unangemessen ausweite. Unterdessen steht der Wirtschaftsprüfer PwC in der Kritik, da Berichte des Unternehmens offenbar erfundene Quellen und falsche Behauptungen enthielten. Die Fehler wurden durch das Tool GPTZero aufgedeckt, das auf die Erkennung KI-generierter Texte spezialisiert ist.

Umbrüche in der KI-Forschung und Industrie

Bei Google DeepMind formiert sich das Team hinter dem Nobelpreis-prämierten KI-Modell AlphaFold neu. Ein Großteil der ursprünglichen Autoren wurde versetzt oder hat das Unternehmen verlassen, wobei einige prominente Forscher, darunter der Nobelpreisträger John Jumper, zu Anthropic wechselten. Der Umbau markiert einen Strategiewechsel hin zu Systemen, die auf dem Sprachmodell Gemini basieren.

Auch bei Meta steht die KI-Strategie im Fokus. Trotz starker Werbeeinnahmen belasten die massiven Investitionen in Rechenzentren und Hardware, wie etwa KI-Brillen, die Bilanz. Mark Zuckerberg setzt auf persönliche KI-Agenten als zukünftige Einnahmequelle.

Auswirkungen auf die Arbeitswelt

Die Integration von KI in den Arbeitsalltag führt zu neuen Herausforderungen. Studien von OpenAI und Adaptavis zeigen eine wachsende „KI-Müdigkeit“: Viele Wissensarbeitende verbringen mehr Zeit mit der Kontrolle von KI-Ergebnissen, als sie durch deren Einsatz an Zeit gewinnen. Anthropic-Chef Dario Amodei warnt zudem vor einem massiven Stellenabbau in akademischen Berufen.

Technologische Lösungen wie die neue Granola-App, die Besprechungen direkt über die Apple Watch transkribiert, versuchen den Arbeitsalltag zu erleichtern. Gleichzeitig suchen Behörden wie die deutsche Cyberagentur nach neuen Wegen der Vermittlung: Ein Science-Fiction-Autor soll beauftragt werden, komplexe Forschungsszenarien einem breiten Publikum zugänglich zu machen. Dieser Trend zu fachfremden Experten – von Philosophen bei OpenAI bis hin zu Handwerkern für den Bau von Rechenzentren – unterstreicht, wie tiefgreifend der durch KI ausgelöste Wandel ist.