Agentisches Coding beherrscht Apps. Bei 500 Millionen Zeilen Code wendet sich die Mathematik gegen uns - Korrektheit multipliziert sich unerbittlich.

Wir erleben gerade einen merkwürdigen Moment: eine erste Welle der Ernüchterung und zugleich eine neue Welle des Hypes darüber, was LLMs mit agentischem Coding leisten können. Im selben Nachrichtenzyklus lesen wir, dass Claude Fable 5 neue Rekorde auf Coding-Benchmarks aufstellt und Stripe berichtet, das Modell habe eine Migration in der eigenen Codebasis von 50 Millionen Zeilen an einem einzigen Tag erledigt, wofür ein ganzes Team mehr als zwei Monate gebraucht hätte und dass „Vibe Coding“ die Softwareentwicklung übernehmen werde. Und wir lesen, dass Ford 350 erfahrene „Gray-Beard“-Ingenieure zurückgeholt hat, nachdem KI-gestützte Qualitätssysteme nicht die erwartete Qualität geliefert hatten.

Beide Geschichten sind wahr. Sie beschreiben nur die entgegengesetzten Enden eines Spektrums. Um zu verstehen, was wirklich passiert, müssen wir zwischen Kategorien von Software unterscheiden.

1. Software ist nicht gleich Software

Am einen Ende des Spektrums steht die App-Welt: mobile Apps, IoT-Geräte, kleine Tools: typischerweise ein paar tausend Zeilen Code (LoC), manchmal bis zu 100.000.

Am anderen Ende steht wirklich komplexe Software. Als ich Mitte der 2000er Jahre Chefarchitekt für SAP ERP und die SAP Business Suite wurde, umfasste die Codebasis rund 400 Millionen Zeilen Code. Als ich die Rolle übergab, waren es 700 Millionen. Und dabei sind die 40.000 Datenbanktabellen noch nicht mitgezählt, mit denen die Software für mehr als 20 Branchen und Unternehmenstypen konfiguriert wird und auch ebenso wenig wie der monatliche Flut gesetzlicher Änderungen, die umgesetzt und an Tausende von Kunden ausgeliefert werden müssen.

Für Leser, die nicht in Codezeilen denken, ein Vergleich: Die App-Welt ist wie die Organisation eines großen Events — sagen wir einer Geburtstagsfeier für einen runden Geburtstag. Viele Themen, viele Randbedingungen: das Restaurant oder die Lokation, Programm, Anreise, Gäste. Die Welt der komplexen Software ist wie die Organisation eines Landes mit 100 Millionen Einwohnern: Wohnen, Verkehr, Lebensmittelversorgung, ein Rechtssystem, Regierungsform und System. Das kann kein einzelner Mensch auf allen Ebenen durchdenken.

Agentisches KI-Coding ist in der App-Welt bereits sehr gut. Die Frage ist: Wie weit kommt es in die andere Kategorie?

2. Die Mathematik ist nicht auf unserer Seite

Lassen Sie mich das Problem mit einem bewusst vereinfachten statistischen Argument illustrieren.

Nehmen wir an, wir könnten ein komplexes System in vollständig unabhängige Module von je 100.000 Zeilen Code zerlegen also Stücke in App-Größe. Nehmen wir weiter an, das KI-Coding trifft jedes Modul zu 99,9 % korrekt. Das ist bereits fast utopisch: In der Praxis ist es extrem schwer, auch nur die Anforderungen zu 95 % richtig zu bekommen.

In diesem vereinfachten Extremfall multipliziert sich die Korrektheit:

Korrektheit des Gesamtsystems = (Korrektheit pro Modul) ^ Anzahl der Module

• 1.000 Module zu je 99,9 %: ≈ 37 %
• 5.000 Module zu je 99,9 %: ≈ 0,7 % — weniger als 1 %

Ein ERP-System mit 500 Millionen Zeilen Code, zerlegt in Module zu 100.000 Zeilen, ergibt 5.000 Module. Selbst mit einer perfekten Zerlegung, perfekt beschriebenen Anforderungen, perfekt spezifizierten Schnittstellen — und 99,9 % Korrektheit pro Modul — liegt die Wahrscheinlichkeit, dass das Gesamtsystem korrekt ist, unter 1 %.

Dreht man die Frage um, wird es noch ernüchternder: Um bei dieser Größenordnung auch nur eine 95-Prozent-Chance auf ein korrektes System zu haben, müsste jedes einzelne Modul zu 99,999 % korrekt sein.

(Diese Illustration folgt einem Vortrag von Bertrand Meyer, der auf einer Bemerkung von Edsger Dijkstra in „Structured Programming“, 1970, aufbaut.)

3. Die Vertrauenslücke: Wir lesen den Code noch immer

Es gibt einen nützlichen historischen Maßstab für das Vertrauen in generierten Code: den Compiler.

Wer in einer Hochsprache wie Python entwickelt, schaut sich praktisch nie den erzeugten Maschinencode, den Zwischencode oder den Bytecode an, der im Prozessor läuft. Wir vertrauen Compilern und Interpretern so vollständig, dass wir nur in sehr seltenen Fällen darunterschauen; typischerweise bei merkwürdigen Fehlern nah an der Hardware.

Bei KI-generiertem Code wollen die meisten Entwickler die Ausgabe nach wie vor lesen. Das zeigt genau, wo wir stehen: weit entfernt von Compiler-Vertrauen. Und bis wir dort sind, bleibt der Mensch in der Schleife („human in the loop“): Er liest, beurteilt und trägt die Verantwortung.

4. Mehr Agenten waren nie die Antwort (mehr Entwickler auch nicht)

Der praktikable Weg heute sind spezialisierte Agenten in Schleifen: ein einzelner Entwickler, der weniger als 15 Agenten orchestriert, die Code generieren, testen, prüfen und reparieren. Das funktioniert, und es wird besser werden.

Vergleichen wir dieses Setup nun mit einer Entwicklungsorganisation von 10.000 Personen voller spezialisierter Rollen. Der interessante Punkt ist nicht, dass eine solche Organisation niemals mit 10.000 spezialisierten KI-Entwicklungsagenten „nachgebaut“ werden könnte, von denen jeder selbst aus einigen Agenten in Schleifen besteht. Technisch ist die Instanziierung von 100.000 Agenten nicht der Engpass.

Der Punkt ist: Software und Organisation sind über Jahrzehnte gemeinsam gewachsen: beginnend mit einer kleineren Organisation, die ein weniger komplexes Produkt gebaut hat. In der menschlichen Welt lässt sich dieses Scheitern regelmäßig beobachten: Wann immer ein großer Konzern einfach Tausende Entwickler in einer neuen Organisation zusammenzieht, bleibt der erwartete Output über viele Jahre aus. Es war nie eine Frage der Mitarbeiterzahl. Und es wird auch keine Frage der Agentenzahl sein.

5. Nachbauen ist nicht Neubauen

Wird ein System von KIs eines Tages etwas wie ein ERP entwickeln? Ja, vielleicht. Es existiert eine enorme Menge an Dokumentation und institutionellem Wissen darüber, was ein ERP-System tut. Ein bekanntes System nachzubauen ist heute weit weniger schwierig als in den 1970er Jahren die ERP Software zu erfinden.

Das ist übrigens der Grund, warum die spektakulärsten KI-Coding-Ergebnisse bisher Migrationen und Nachbauten sind: Das Stripe-Beispiel oben ist eine Migration, da das Ziel durch das Bestehende vollständig spezifiziert ist. Ein komplexes System zu bauen, das es noch nie gegeben hat, bei dem die Anforderungen selbst erst entdeckt werden müssen, ist eine völlig andere Aufgabe.

6. Hockeystick oder Plateau?

Blickt man auf letzten 60 Jahre KI zurück, wiederholt sich das Muster: Ein Durchbruch geschieht: Expertensysteme, Computational Intelligence, die Machine-Learning-Renaissance, Deep Learning gefolgt von einer Hockeystick-Prognose, die verspricht, dass in wenigen Jahren alles gelöst sein wird. Und jedes Mal wurde aus dem Hockeystick ein Plateau.

Die aktuelle Welle wird sicher über Apps mit ein paar tausend Zeilen Code hinauskommen; sie mag zuverlässig genug für deutlich komplexere Systeme werden. Aber die Schlüsselfrage bleibt:

Wird der aktuelle Ansatz ein Plateau erreichen, bevor wir die Organisation und das Training von 100.000 Agenten gelöst haben, die gemeinsam an einem komplexen Softwaresystem arbeiten?

Fazit

Der begrenzende Faktor ist nicht die Intelligenz des einzelnen Coding-Agenten. Entscheidend ist, dass sich Korrektheit über Tausende voneinander abhängiger Module multiplikativ verhält und dass große Software und die Organisationen, die sie bauen, über Jahrzehnte zusammenwachsen. KI wird sehr viel Coding ersetzen, lange bevor sie Software-Engineering im Enterprise-Maßstab ersetzt.

Was ist Ihre Einschätzung: Wo liegt das Plateau diesmal? Vernetzen Sie sich gerne mit mir oder melden Sie sich;  insbesondere, wenn Sie mit der Qualität und Sicherheit KI-generierten Codes in großen oder regulierten Systemen ringen.