AIDive

Wir haben Anthropics Claude Code Playbook gemessen

Von AIDive · Veröffentlicht am

Coding-AgentsAutomatisierung & Workflows

Das Playbook, das keiner gemessen hat

Anthropic hat ein Playbook für den KI-nativen SDLC mit Claude Code veröffentlicht: sechs Stufen, jede endet in einer committeten Datei, angeboten als kostenloser Kurs. Die zentrale These: Code ist nicht mehr der Engpass, und die Kette der committeten Artefakte steuert das, was es ist. Das Dokument selbst enthält keinerlei Messung, keine Zeiten, keine Kosten, keinen Benchmark. Wir haben den ersten Zeittest an einem echten Repository gemacht: sechzehn gemessene Claude-Code-Sessions, jedes Gate mit Preis, und ein Urteil, das die Kette in der Mitte teilt. Nebenbei hat ein Zwei-Minuten-Fix durch die volle Kette die Zeremonie beziffert, und unser eigenes Deploy wurde zweimal gestoppt, einmal von vier Zeilen Shell.

Das Playbook und das Testsetup

Das Testsetup: sechzehn gemessene Claude-Code-Sessions, etwa $12 Rechenkosten, ein echtes Repository. Das Playbook hat sechs Stufen: Plan, Design, Build, Test, Deploy, Maintain. Jede Stufe endet in einer committeten Datei, und die nächste Stufe liest sie: Intent, Spec, Plan, den Pull Request, den Incident-Eintrag. Die Commits sind der Audit-Trail. Anthropic vermittelt das als kostenlosen Kurs mit 14 Lektionen, etwa eine Stunde, geschrieben für Unternehmen mit Review-Gates; wir haben getestet, was den Kontakt mit einem einzelnen Entwickler übersteht.

Das Repository ist die RealWorld-Demo-App (Express, TypeScript, Prisma, Postgres), ein echtes Projekt mit echten Tests und einer Suite, die nach frischem Clone kaputt ist (vier bestandene Suites, 14 grüne Tests, zwei Sekunden Laufzeit). Dieser Bug wird später zur Kontrollgruppe. Die Bewertungsregel: Ein Gate zahlt sich aus, wenn sein Ergebnis verändert, was ausgeliefert wird, und das für weniger, als es kostet.

Die Eintrittskarte ist eine Memory-Datei im Repo-Root: Befehle, Konventionen, Architektur, die Fehler, die das Modell immer wieder macht, unter einer Seite gehalten. Unsere war in 63 Sekunden für $0.44 geschrieben und committet. Eine ehrliche Einschränkung zur Methode: Headless-Läufe pressen die Interviews des Playbooks in einzelne Prompts.

Plan: intent.md in neunundzwanzig Sekunden

Das erste Gate hält die Idee fest, bevor irgendjemand etwas entwirft. Die Feature-Anfrage: Leser wollen Autoren stummschalten, die ihren Feed fluten. Das Playbook nennt das Ergebnis eine Proto-Spec, gemeinsam mit dem Modell geschrieben, aber von dir verantwortet, und lässt drei Ursprünge zu: eine Idee, ein eröffnetes Ticket oder einen Incident-Alarm. Das Template hat fünf Abschnitte, deren Überschriften das Denken übernehmen: Problem, gewünschtes Ergebnis, betroffene Nutzer und Systeme, Randbedingungen, offene Fragen. Der Arbeitsablauf besteht aus fünf Schritten: beschreiben, brainstormen, aus dem Template generieren, korrigieren, committen.

intent.md Zeit Kosten
Mute-authors feature 29 s $0.18
Broken test suite 39 s —

Der Wert steckt ganz unten, in den offenen Fragen: Was passiert mit Favoriten eines stummgeschalteten Autors? Bleiben seine Seiten erreichbar? Das sind Entscheidungen, die ein Coding-Agent sonst stillschweigend treffen würde, jetzt aufgeschrieben und datiert. Die Datei ist committet, also überleben Autorschaft und Zeitstempel den Chat, und der Product Owner korrigiert den Entwurf, bevor er ihn annimmt. Anthropics eigenes Ziel für diese Stufe ist Elicitation in Stunden statt Wochen; allein sind es unter einer Minute.

Design: Die Spec markiert ihre eigene Voraussetzung

Gate zwei macht aus dem Intent eine Spec, mit einem Prompt aus dem Kurs: den Intent lesen, eine Requirements-und-Design-Spec erstellen, die verfügbaren Skills anwenden, also die Skills, die eigentlich deine Marken-, Sicherheits- und UX-Richtlinien tragen sollen. Zwei Minuten später hatten wir rund 2.300 Wörter kompetente Spec: Endpoints, Datenmodell, Feed-Verhalten, Randfälle. Sie hielt sogar fest, was sie nicht erfüllen konnte, genau wie der Prompt es verlangt.

Der Clou steckt in ihren markierten Bedenken, vom Modell selbst geschrieben: "C0. No org skills available. This spec has not been checked against any policy." Die ganze Prämisse der Stufe setzte Dateien voraus, die in den meisten Setups nicht existieren; die Erklärvideos überspringen diese Voraussetzung, der Agent hat sie schriftlich festgehalten. Der zweite Hinweis war zahmer: Die Standardwerte für offene Fragen brauchen vor dem Build die Freigabe des Produkts.

Die Lektion ist streng bei der Paarung (Spec und Intent werden zusammen committet, ein Mensch gibt den Übergang zum Build frei), und es gibt eine Lese-Rechnung: etwa 12 Minuten Product-Owner-Zeit pro Spec. Das Playbook erfasst sogar Rework: Spec-Commits, die nach Build-Beginn datiert sind, zählen gegen dich. In einem Team, das seine Richtlinien kodiert hat, werden sie an diesem Gate ausgeführt. Allein zahlst du für ein Versprechen, das das Setup noch nicht halten kann.

Build: Plan Mode, TDD und was der Loop wirklich prüft

Gate drei ist Plan Mode, und die Latte liegt brutal und nützlich hoch: Ein Ingenieur, der das Gespräch nie gesehen hat, müsste allein anhand des Plans implementieren können. Plan Mode erzwingt die Lesehälfte selbst: Das Modell darf keine Dateien bearbeiten, bevor der Plan akzeptiert ist. Unserer kam nach vier Minuten auf etwa 4.000 Wörter, benannte die geänderten Dateien, die Reihenfolge der Arbeit, die Risiken und den Nachweis, und hielt drei benannte Abweichungen von der Spec fest, die später im Review wiederkommen.

Der Build läuft als Loop: den fehlschlagenden Test schreiben, ihn zum Bestehen bringen, ein Ziel, alles grün, sonst ist die Aufgabe nicht erledigt. Der Loop ist geschützt (ein Agent, der Code repariert, darf die Prüfung dieses Codes nicht abschwächen) und mit einem Verifier gekoppelt, einer zweiten Prüfung in frischem Kontext, unbeeinflusst von der Session, die den Code geschrieben hat.

Build-Ergebnis Wert
Agent-Zeit ~9 min, 91 Turns
Kosten ~$2
Änderung 15 Dateien, Mutes-Tabelle, zwei Endpoints, beide Feeds gefiltert
Tests 5 Suites, 50 Tests, alle grün bei unabhängigem Rerun
Merge im ersten Anlauf ja

Das Sternchen: Grün beweist nur, was der Loop enthält, nicht mehr. End-to-End wurde nie ausgeführt, es braucht einen laufenden Server und eine befüllte Datenbank, und ein Loop, der auf veraltete Fakes zielt, leuchtet genauso grün. Im Team kommen parallele Sessions in Worktrees dazu (zwei oder drei sind die genannte Obergrenze); das haben wir nicht getestet.

Deploy: Das Review und das Gate, das Nein sagte

Das Deploy-Gate hat zwei Ebenen, und beide haben uns Nein gesagt. Ebene eins liest den Diff nach einer schriftlichen Richtlinie im Repo-Root: drei Durchgänge (Bugs, Sicherheit, Compliance gegen Spec und Plan), "Important" ist reserviert für kaputtes Verhalten, geleckte Daten oder einen Richtlinienverstoß, maximal fünf Nits, der Rest wird als Zahl zusammengefasst; die Richtlinie begrenzt ihr eigenes Rauschen. Zwei Minuten Review, $0.80, und es führte die echten Prüfungen aus: Tests, Build, Lint gegen die im Plan festgehaltene Baseline, Formatierung über neun Dateien. Urteil: null Important-Funde, sechs Nits, einer über dem Limit zusammengefasst. Es schloss mit einem Satz, den wir nicht angefordert hatten: Dieser Agent gibt nicht frei, die Freigabe bleibt bei einem menschlichen Code Owner hinter Branch Protection.

Ebene zwei ist das Gate selbst. Wir baten um das Deploy; das Modell lehnte von selbst ab, weil das Feature nicht auf dem Release-Branch lag. Das ist Urteilsvermögen, keine Durchsetzung. Also haben wir gemergt und noch einmal gefragt: Vier Zeilen Shell antworteten in 14 Sekunden: blockiert, Release-Autorisierung erforderlich. Exit-Code 2 stoppt den Tool-Aufruf, und der Grund landet wieder beim Modell. Die Pipeline-Seite bekam dieselbe Behandlung: Ein kaputter Build wurde headless in 11 Sekunden für $0.13 analysiert; er las das Log, benannte die genaue Ursache und schlug den Diff vor, ohne eine Datei anzufassen. Deterministisch schlägt höflich; ein Hook ist nur so gut wie sein Muster, und unseres traf ein Skript.

Die Gate-Steuer

Derselbe Bug, derselbe kaputte Start, zwei Wege: das Kontrollexperiment. Weg eins: einfach fixen. Weg zwei: die volle Kette, von Intent bis Build.

direkter Fix volle Kette Faktor
Wandzeit 2:13 11:31 ×5.2
Kosten $0.70 $3.46 ×4.9
Turns 40 169 —
Ergebnis Suite grün Suite grün identisch

Die Maschinenrechnung ist die kleine Hälfte. Die Kette schrieb für einen Einzeiler-Fix etwa 5.500 Wörter Artefakte, grob 27 Minuten menschliches Lesen für einen Diff, den man auf einen Blick überfliegt. Die Kette wandelt Schreibzeit in Lesezeit um; das ist die Gate-Steuer.

Das Playbook fügt eine wiederkehrende Gebühr hinzu: kontinuierliche Evals. Zwanzig bis fünfzig echte Aufgaben, bei jeder Konfigurationsänderung erneut ausgeführt, jeder Fall eine echte frühere Aufgabe, der Prompt wie damals, gestartet vom Commit vor der Änderung, mit prüfbarer Akzeptanz. Fünf Fälle aus der Historie zu schreiben dauerte fünf Minuten; sie richtig auszuführen ist nicht so einfach: Unser erstes Harness richtete zwei Fälle auf den falschen Commit, und beide Agenten bemerkten es, statt ein Bestehen vorzutäuschen. Bei etwa einer Minute pro Fall kostet eine vollständige Suite bis zu eine Stunde Agent-Zeit pro Lauf, und jeder Produktions-Incident soll als dauerhafte Regressions-Eval in die Suite wandern. In einem regulierten Team ist dieses Lesen das Ergebnis; allein ist es Overhead.

Urteil: Drei von sechs zahlen sich aus

Drei von sechs Gates zahlen sich selbst aus:

Stufe Urteil Beleg
Plan behalten 40 s kaufen die Fragen, die keiner gestellt hat
Build behalten Plan Mode + Test-Loop lieferten 50 grüne Tests
Deploy behalten $0.80-Review mit echten Prüfungen, 14 s deterministischer Block
Design allein überspringen berechnet dir Richtlinien, die du nicht kodiert hast
Test (kontinuierliche Evals) kann warten bis zu eine Stunde pro Lauf, leicht falsch ausgerichtet
Maintain unbewiesen braucht Wochen an Produktionstelemetrie

Maintain ist auf dem Papier elegant: Deterministische Skripte überwachen Kontrollbänder, und ein Verstoß schreibt eine neue Intent-Datei. Aber der Beweis braucht Produktionstelemetrie, die wir nicht haben. Anthropics eigenes Dokument enthält, wie ein Analyst es formulierte, nirgends eine Messung; das hier sind die ersten Zahlen, mit den offensichtlichen Grenzen: ein Repo, ein Entwickler, ein Tag.

Die Daten von außen sagen, der Druck ist real. Faros hat über 10.000 Entwickler in mehr als 1.200 Teams erfasst: Teams mit hoher Adoption mergen 98% mehr Pull Requests, die Review-Zeit steigt um 91%, und der durchschnittliche Pull Request wird mehr als doppelt so groß. Der neueste DORA-Report reimt sich darauf: Durchsatz steigt mit KI, Stabilität sinkt. Review wird zum Engpass, und das Playbook zielt genau darauf. Community-Varianten kürzen die Kette bereits auf zwei menschliche Entscheidungen: Eine liefert Templates und ein Gate-Ledger, die andere hält Menschen nur bei Design und Test. Übernimm die drei Gates, die sich auszahlen, und wachse in den Rest hinein, wenn dein Team es tut. Anthropics eigener Schlusssatz ist die passende Grabinschrift: Der Loop läuft weiter, menschliches Urteil bleibt darüber.

Quellen

Häufige Fragen

Was ist Anthropics KI-natives SDLC-Playbook?
Ein kostenloser Claude-Academy-Kurs mit 14 Lektionen, der die KI-Entwicklung in sechs Stufen gliedert (Plan, Design, Build, Test, Deploy, Maintain), die jeweils in einer committeten Datei enden, welche die nächste Stufe liest — intent.md, spec.md, plan.md, der Pull Request und der Incident-Eintrag.
Lohnt es sich, dem KI-nativen SDLC-Playbook zu folgen?
An einem echten Repo gemessen zahlen sich drei von sechs Gates aus: Plan (29–40 s für die Fragen, die keiner gestellt hat), Build (Plan Mode plus TDD-Loop lieferten ein Feature mit 15 Dateien und 50 grünen Tests) und Deploy (ein $0.80-Review mit echten Prüfungen plus ein deterministischer Hook-Block). Design, kontinuierliche Evals und Maintain zahlen sich erst aus, wenn ein Team Richtlinien kodiert und Produktionstelemetrie besitzt.
Wie viel kostet die volle Artefakt-Kette im Vergleich zu einem direkten Fix?
Beim selben Bug dauerte der direkte Fix 2:13 und kostete $0.70; die volle Kette Intent → Spec → Plan → Build brauchte 11:31 und $3.46 — rund das Fünffache an Zeit und Kosten für ein identisches Ergebnis, plus ~27 Minuten menschliches Lesen.
Wie funktionieren Claude-Code-Hooks als Deploy-Gates?
Ein PreToolUse-Hook liest jeden Bash-Befehl, bevor er läuft; passt er auf ein geschütztes Muster (etwa deploy-prod), gibt er einen Grund aus und beendet sich mit Exit-Code 2, was den Tool-Aufruf blockiert und den Grund an das Modell zurückgibt. Unserer antwortete in 14 Sekunden.
Was sind kontinuierliche Evals im Playbook?
Eine Suite aus 20–50 echten früheren Aufgaben, die bei jeder Konfigurationsänderung erneut ausgeführt werden, jeweils mit prüfbarer Akzeptanz. Fünf Fälle zu schreiben dauerte fünf Minuten, aber eine vollständige Suite kostet bis zu eine Stunde Agent-Zeit pro Lauf, und jeder Produktions-Incident soll als Regressions-Eval in die Suite wandern.
Verlagert KI-Coding den Engpass wirklich auf das Review?
Die Felddaten sagen ja: Faros-Telemetrie über 10.000+ Entwickler zeigt, dass Teams mit hoher Adoption 98% mehr Pull Requests mergen, während die Review-Zeit um 91% steigt und die durchschnittliche PR-Größe sich mehr als verdoppelt; der neueste DORA-Report zeigt mehr Durchsatz bei sinkender Stabilität.

Ähnliche Videos