heise+ | Was KI-generierter Code wirklich taugt: Flink erzeugt, schwer wartbar?

Die aktuelle Lage der KI-gestützten Softwareentwicklung

Die Softwareentwicklung befindet sich in einem tiefgreifenden Wandel, der maßgeblich durch den Einsatz von Large Language Models (LLMs) vorangetrieben wird. In der Praxis zeigt sich, dass diese Modelle in der Lage sind, in beeindruckender Geschwindigkeit funktionsfähigen Code zu erzeugen. Für Entwicklerteams bedeutet dies eine spürbare Beschleunigung bei der Erstellung von Prototypen und der Umsetzung standardisierter Aufgaben. Doch der erste Eindruck täuscht oft: Die bloße Fähigkeit eines Modells, Code zu generieren, ist nicht gleichbedeutend mit einer langfristigen Verbesserung der Softwarequalität. Aktuelle empirische Untersuchungen legen nahe, dass KI-generierter Code systematisch andere Qualitätsprofile aufweist als jener, der von menschlichen Programmierern verfasst wurde. Während die funktionale Korrektheit in vielen Fällen gegeben ist, treten bei genauerer Betrachtung signifikante Herausforderungen in den Bereichen Wartbarkeit und Sicherheit auf. Für professionelle Softwarehäuser stellt sich daher zunehmend die Frage, wie sie die Effizienzgewinne durch KI nutzen können, ohne dabei langfristig in die Falle technischer Schulden zu tappen. Die Integration von LLMs in den Entwicklungsprozess erfordert somit ein Umdenken, das über die reine Nutzung der Generierungsfunktion hinausgeht.

Struktur und Qualität von KI-Code im Detail

Die Analyse der Codequalität ist ein komplexes Unterfangen, das weit über die bloße Prüfung der Ausführbarkeit hinausgeht. Dr. Fabian Deitelhoff, IT-Leiter und Experte auf diesem Gebiet, betont, dass klassische Metriken zur Bewertung von Software heute erweitert werden müssen, um den Besonderheiten von KI-Modellen gerecht zu werden. Ein zentraler Punkt ist dabei die hohe Varianz: Dasselbe Prompt kann bei wiederholter Ausführung unterschiedliche Ergebnisse liefern, was die Standardisierung erschwert. Zudem fehlt dem Modell als Erzeuger die langfristige Verantwortung für den Code – eine Aufgabe, die zwangsläufig beim menschlichen Team verbleibt. Die Qualität wird dabei nicht nur durch die Korrektheit bestimmt, sondern auch durch die strukturelle Beschaffenheit, wie etwa das Vorhandensein von Code Smells, die Komplexität und die Duplikation von Logik. Während KI-Modelle bei der schnellen Erzeugung von Codezeilen glänzen, zeigt sich bei der langfristigen Wartung ein anderes Bild. Die Codekomplexität kann durch den massiven Ausstoß an generierten Zeilen schleichend zunehmen, was die anfänglichen Produktivitätsvorteile durch einen erhöhten Aufwand bei der späteren Fehlerbehebung oder Anpassung wieder zunichtemachen kann.

Der historische Kontext und die Entwicklung der KI-Programmierung

Die Entwicklung hin zu KI-gestützten Entwicklungsumgebungen verlief in den letzten Jahren rasant. Ursprünglich als einfache Autovervollständigung gestartet, haben sich die Werkzeuge zu komplexen Assistenzsystemen entwickelt, die ganze Funktionen oder sogar Klassenstrukturen entwerfen können. Die Vorgeschichte dieser Entwicklung ist geprägt von dem Bestreben, die Effizienz in der Softwareentwicklung zu steigern, da der Bedarf an qualifizierten Entwicklern das Angebot oft übersteigt. Frühe Ansätze konzentrierten sich primär auf die korrekte Syntax und die Vermeidung trivialer Fehler. Mit dem Aufkommen moderner LLMs verlagerte sich der Fokus jedoch auf die semantische Korrektheit und die Fähigkeit, komplexe Anforderungen in ausführbaren Code zu übersetzen. Der bisherige Verlauf zeigt, dass die Industrie zwar den Nutzen erkannt hat, aber erst jetzt beginnt, die langfristigen Konsequenzen für die Softwarearchitektur zu verstehen. Die Erkenntnis, dass die bloße Quantität an Code kein Indikator für Qualität ist, markiert einen Wendepunkt in der Bewertung dieser Technologien. Unternehmen müssen nun lernen, den Einsatz von KI nicht als Ersatz für menschliche Expertise, sondern als Werkzeug zu begreifen, das einer strikten Qualitätskontrolle unterliegt.

Akteure und Verantwortlichkeiten im Entwicklungsprozess

In diesem technologischen Umfeld sind verschiedene Akteure und Institutionen involviert. Auf der einen Seite stehen die Entwicklerteams, die täglich mit den Modellen arbeiten und die Verantwortung für die resultierende Software tragen. Auf der anderen Seite stehen Experten wie Dr. Fabian Deitelhoff, der als Head of Software Development und Head of Product bei der Education Partners GmbH tätig ist, und die wissenschaftliche Forschung, die durch empirische Studien versucht, die Auswirkungen der KI-Nutzung objektiv messbar zu machen. Die Entscheidung, in welchem Umfang KI in den Workflow integriert wird, liegt bei den technischen Leitungen der Unternehmen. Sie müssen abwägen, welche Sicherheitsstandards eingehalten werden müssen und wie die Haftung für den generierten Code geregelt ist. Da das Modell selbst keine Verantwortung übernimmt, obliegt die gesamte Last der Wartung und der Qualitätssicherung den menschlichen Teams. Diese Rollenverteilung macht deutlich, dass die menschliche Komponente in der Softwareentwicklung trotz fortschreitender Automatisierung nicht an Bedeutung verliert, sondern sich eher in Richtung einer steuernden und prüfenden Instanz verschiebt.

Einordnung der Ergebnisse und methodische Ansätze

Einzuordnen ist die aktuelle Debatte so, dass die Produktivitätssteigerung durch KI zwar unbestreitbar ist, aber eben nicht kostenlos erfolgt. Den Berichten zufolge ist die Sicherheit die wohl härteste Qualitätsdimension, an der sich KI-generierter Code messen lassen muss. Während funktionale Tests oft erfolgreich durchlaufen werden, können subtile Sicherheitslücken im generierten Code verborgen bleiben, die erst bei einer tiefergehenden Analyse oder im produktiven Betrieb zutage treten. Ein vielversprechender Ansatz zur Bewertung ist der RACE-Benchmark, der explizit die Dimensionen Readability (Lesbarkeit), Maintainability (Wartbarkeit), Correctness (Korrektheit) und Efficiency (Effizienz) kombiniert. Dieser Ansatz ist deshalb so wertvoll, weil er klassische Metriken mit menschlichen Bewertungen verknüpft. Es ist jedoch Vorsicht geboten: Rein korrektheitszentrierte Benchmarks greifen zu kurz, da sie die strukturellen Probleme, die erst über den Lebenszyklus einer Software hinweg entstehen, ignorieren. Die Bewertung muss daher immer mehrdimensional erfolgen, um ein realistisches Bild der Codequalität zu erhalten.

Offene Fragen und Lücken in der aktuellen Analyse

Obwohl die aktuelle Studienlage viele Aspekte beleuchtet, bleiben einige Fragen unbeantwortet. Der Quelltext lässt beispielsweise offen, wie sich die langfristige Wartbarkeit von KI-Code in extrem komplexen, über Jahre gewachsenen Legacy-Systemen im Vergleich zu Greenfield-Projekten verhält. Auch die Frage, wie sich die Haftung bei sicherheitskritischen Fehlern in KI-generiertem Code rechtlich konkret gestaltet, wird nicht abschließend geklärt. Zudem bleibt unklar, inwieweit die verschiedenen LLM-Architekturen unterschiedliche Qualitätsprofile aufweisen – ob also ein Modell prinzipiell „wartbareren“ Code schreibt als ein anderes. Die Lücke zwischen der theoretischen Leistungsfähigkeit der Modelle und der praktischen, täglichen Wartungsarbeit in großen Teams ist ebenfalls noch nicht vollständig erforscht. Es mangelt zudem an Langzeitstudien, die über einen Zeitraum von mehreren Jahren untersuchen, wie sich die technische Schuld bei Projekten mit hohem KI-Anteil im Vergleich zu rein menschlich entwickelten Projekten entwickelt. Diese Unsicherheiten unterstreichen die Notwendigkeit für weitere, tiefgreifende Forschung in diesem Bereich.

Ausblick und zukünftige Anforderungen an die Entwicklung

Wie es weitergeht, hängt maßgeblich von der Entwicklung neuer Frameworks und Methoden ab, die eine bessere Integration von KI in den Software-Lebenszyklus ermöglichen. Die Branche bewegt sich weg vom bloßen „Codegenerator“ hin zu einem umfassenden „Engineeringsystem“. Angekündigte Schritte umfassen die Verfeinerung von Benchmarks, die nicht nur die Korrektheit, sondern auch die Wartbarkeit und Sicherheit in den Vordergrund stellen. Teams werden in Zukunft vermehrt dazu übergehen, automatisierte Qualitätssicherungsprozesse direkt mit der KI-Generierung zu verknüpfen. Dies bedeutet, dass jede KI-generierte Codeeinheit automatisch durch Validierungstools laufen muss, die auf strukturelle Qualität und Sicherheit prüfen. Die Entscheidung, ob und wie KI-Tools in die CI/CD-Pipelines integriert werden, wird in den kommenden Monaten für viele Unternehmen zu einer strategischen Priorität. Es ist davon auszugehen, dass die Anforderungen an die menschlichen Entwickler steigen werden: Sie müssen nicht mehr nur programmieren können, sondern auch in der Lage sein, den Code der KI kritisch zu hinterfragen, zu bewerten und bei Bedarf grundlegend zu überarbeiten.