KI Klartext

Agenten, die Agenten prüfen: warum ein zweiter Blick die Qualität hebt

Warum ein Modell Arbeit besser prüft als fehlerfrei produziert — wie eine Prüfer-Schleife die Qualität hebt und warum sie den Menschen am Ende nicht ersetzt.

Ein Modell, das eine Aufgabe in einem Zug erledigt, macht die Fehler, die es selbst nicht sieht. Eine einfache, aber wirkungsvolle Beobachtung hilft dagegen: Ein Modell ist oft besser darin, Arbeit zu prüfen, als sie auf Anhieb fehlerfrei zu produzieren. Also trennt man die Rollen — einer macht, einer prüft, bevor etwas rausgeht. Aus einem Schuss wird eine Schleife: produzieren, kritisieren, überarbeiten, erneut prüfen.

Das ist derselbe Gedanke wie der Modell-Richter bei der Archiv-Bewertung und der Eigenschafts-Prüfer bei den Prompt-Tests — nur nicht beim Testen, sondern live im Ablauf. Diese Seite zeigt, wann das die Qualität wirklich hebt, wo es nur teurer wird, und warum es den Menschen am Ende nicht ersetzt.

prüfen > tun
ein Modell findet Fehler oft leichter, als es sie vermeidet
Messlatte
ein Prüfer braucht konkrete Kriterien, kein »ist das gut«
blinde Flecken
zwei Kopien desselben Modells teilen dieselben Fehler

Prüfen ist leichter als fehlerfrei produzieren

Das ist das Prinzip, auf dem alles beruht. Eine frische Instanz, die nur eine Aufgabe hat — diese Ausgabe gegen klare Kriterien zu prüfen —, findet Dinge, die der Produzierende übersehen hat: eine ungedeckte Behauptung, eine verfehlte Vorgabe, einen Formfehler, eine Lücke in der Logik. Nicht weil sie klüger ist, sondern weil Prüfen eine andere, einfachere Aufgabe ist als fehlerfreies Erzeugen.

Genau deshalb funktioniert die Rollenteilung. Der Arbeiter konzentriert sich aufs Produzieren, der Prüfer aufs Finden von Fehlern. Was der eine im Eifer übergeht, fängt der andere mit frischem Blick. Es ist dieselbe Logik wie bei einem zweiten Korrekturleser — nur automatisiert und in den Ablauf eingebaut.

Der Prüfer braucht eine Messlatte, keine Meinung

Hier entscheidet sich, ob es funktioniert. Fragst du den Prüfer „ist das gut?”, bekommst du ein nichtssagendes „ja, sieht gut aus” — ein vager Auftrag erzeugt einen vagen Stempel. Der Prüfer braucht eine konkrete Messlatte: Welche Vorgaben muss die Ausgabe erfüllen, was muss enthalten sein, was darf nicht, welche Form. Erst gegen diese Kriterien wird die Prüfung scharf.

Diese Messlatte zu formulieren ist die eigentliche Arbeit — dieselbe wie das Definieren der Eigenschaften bei den Prompt-Tests. Ohne sie ist die Prüfer-Schleife Theater: zwei Modelle, die sich gegenseitig versichern, dass alles in Ordnung ist.

Zwei Kopien teilen dieselben blinden Flecken

Der ehrliche Haken. Lässt du dasselbe Modell die eigene Arbeit prüfen, teilt der Prüfer die blinden Flecken des Arbeiters. Einen Fehler, den der Produzierende nicht gesehen hat, übersieht der Prüfer womöglich genauso, weil er ihn selbst gemacht hätte. Die Unabhängigkeit ist nur halb da.

Dagegen hilft Abstand: eine andere, ausdrückliche Messlatte, ein anderer Blickwinkel, oder ein anderes Modell als Prüfer. Je unabhängiger die Prüfung von der Produktion, desto mehr fängt sie. Ein Prüfer, der dieselbe Brille trägt wie der Arbeiter, ist besser als nichts, aber kein Wundermittel.

Wie ich das angehe

1
Die Messlatte festlegen
konkret, nicht »ist das gut«

Woran der Prüfer misst: klare Kriterien, was erfüllt sein muss, was nicht vorkommen darf, welche Form. Das ist die eigentliche Arbeit.

2
Der Arbeiter produziert

Eine Instanz erledigt die Aufgabe und konzentriert sich aufs Erzeugen.

3
Der Prüfer bewertet gegen die Messlatte
möglichst unabhängig

Aus anderem Blickwinkel oder mit anderem Modell, listet, was durchfällt — mit konkretem Grund, nicht mit einem Gefühl.

4
Der Arbeiter überarbeitet
in begrenzten Runden

Gezielt die bemängelten Punkte. Die Schleife ist gedeckelt, sonst dreht sie sich endlos oder pendelt hin und her.

5
Das menschliche Tor am Ende
bei Verbindlichem

Für alles, was zählt, bleibt der Mensch die letzte Instanz. Die Schleife liefert ihm bessere Entwürfe, nicht weniger Verantwortung.

Wo es kippt

Geteilte blinde Flecken. Dasselbe Modell stempelt den eigenen Fehler ab. Eine unabhängige Messlatte oder ein zweites Modell als Prüfer fängt mehr.

Die vage Messlatte. „Ist das gut?” erzeugt einen leeren Stempel. Ohne konkrete Kriterien ist die Schleife Selbstbestätigung.

Kosten und Wartezeit vervielfachen sich. Jede Prüfung und jede Überarbeitung ist ein weiterer Aufruf. Eine Schleife kostet schnell ein Mehrfaches des einen Schusses. Deckeln und nur dort einsetzen, wo der Qualitätsgewinn es trägt.

Endlosschleife und Pendeln. Behebt der Arbeiter A und bricht dabei B, bemängelt der Prüfer B, und es geht von vorn los. Runden begrenzen, „gut genug” akzeptieren.

Zu streng oder zu lax. Ein Prüfer, der alles ablehnt, produziert endlose Überarbeitung; einer, der alles durchwinkt, ist nutzlos. Wie einen Richter kalibrierst du ihn gegen menschliche Stichproben.

Überengineering. Die meisten Aufgaben brauchen keine Prüfer-Schleife. Nur dort, wo die Qualität aus einem Schuss wirklich nicht reicht und es eine prüfbare Messlatte gibt.

Was es kostet — und woran

Der Preis sind die zusätzlichen Aufrufe — produzieren, prüfen, überarbeiten, oft mehrfach. Das lohnt sich bei anspruchsvollen Aufgaben, deren Fehler teuer und deren Kriterien prüfbar sind: ein belegter Bericht, Code gegen eine Spezifikation, ein Plan unter Vorgaben. Für simple Aufgaben ist es Verschwendung.

Wichtig zur Einordnung: Die Prüfer-Schleife hebt den Boden, sie ersetzt nicht das menschliche Tor. Sie sorgt dafür, dass bessere Entwürfe beim Menschen ankommen — nicht dafür, dass kein Mensch mehr nötig ist. Wer sie als Ersatz für die Freigabe verkauft, hat das Prinzip überdreht.

Wie ein ehrlicher Einstieg aussieht

Nimm eine Aufgabe, bei der der erste Wurf zu oft daneben liegt und für die du eine konkrete Messlatte aufschreiben kannst. Häng einen Prüfer-Schritt mit genau dieser Messlatte dahinter und eine gedeckelte Überarbeitungsschleife. Dann miss, ob die Qualität steigt und zu welchem Aufpreis. Für die einfache Mehrheit der Aufgaben behältst du den einen Schuss. Die Schleife ist das Werkzeug für das Anspruchsvolle, nicht der neue Standard.

Worauf du achtest, wenn dir das jemand baut

  • Prüft der Prüfer gegen eine konkrete Messlatte, oder gegen ein Gefühl? Vage ist das Warnsignal.
  • Ist der Prüfer unabhängig genug — andere Messlatte oder anderes Modell —, statt dieselben blinden Flecken zu teilen?
  • Ist die Schleife gedeckelt, gegen Endlosrunden und Pendeln?
  • Ist der Prüfer kalibriert, nicht zu streng und nicht zu lax?
  • Bleibt das menschliche Tor für Verbindliches, statt ersetzt zu werden?
Zum Mitnehmen

Den Prüfer kannst du sofort als Prompt anlegen — der Kopf der Schleife. Gib ihm Aufgabe, Ausgabe und eine konkrete Messlatte:

Du bist ein strenger Prüfer. Ich gebe dir: die AUFGABE, die AUSGABE eines anderen Schritts und eine
konkrete MESSLATTE (Kriterien).

1. Prüfe die Ausgabe gegen JEDES Kriterium einzeln — nicht nach Bauchgefühl "gut/schlecht".
2. Liste jeden Punkt, der durchfällt, mit konkretem Grund. Sei streng, aber nicht erfinderisch:
   bemängle nur echte Verstöße, keinen Geschmack.
3. Urteil: BESTANDEN (alle Kriterien erfüllt) oder ÜBERARBEITEN (mit klarer Liste, was zu ändern ist).
4. Bewerte nur gegen Aufgabe und Messlatte, nicht gegen dein eigenes Wissen.

Gib aus: je Kriterium erfüllt/verletzt + Grund, dann das Gesamturteil.

Bei dir muss eine KI etwas Anspruchsvolles produzieren — einen belegten Bericht, einen Plan unter Vorgaben — und der erste Wurf ist zu oft daneben? Dann reden wir darüber, ob eine Prüfer-Schleife die Qualität hebt und wo trotzdem dein Blick die letzte Instanz bleibt.