Klassische Software fällt aus. Sie wirft einen Fehler, etwas bleibt stehen, jemand merkt es. Unangenehm, aber eindeutig.
KI-Automatisierungen fallen nicht aus. Sie werden schlechter. Vorgänge laufen weiter durch, Ergebnisse kommen an, alles sieht normal aus. Nur stimmt die Zuordnung plötzlich in einem von sieben Fällen nicht mehr. Und das merkt niemand, bis sich ein Kunde meldet.
Woher die schleichende Verschlechterung kommt
Es gibt vier Quellen, und keine davon ist ein Fehler in deinem Aufbau.
Der Anbieter ändert das Modell. Hinter demselben Namen kann sich eine andere Version verbergen. Du hast nichts geändert, das Verhalten schon.
Du wechselst bewusst. Ein neues Modell ist besser und günstiger, also stellst du um. Und stellst fest, dass deine alten Anweisungen anders wirken. Anthropic hat beim letzten Wechsel selbst darauf hingewiesen, dass alte Prompts zu übermäßigem Nachprüfen führen können.
Die Eingangsdaten verschieben sich. Ein Lieferant ändert sein Rechnungsformat, ein Formular bekommt ein neues Feld. Der Ablauf bleibt gleich, das Futter nicht.
Jemand verbessert einen Prompt. Das ist der häufigste Fall und der ärgerlichste. Eine Anweisung wird für einen Sonderfall ergänzt, und dabei bricht ein Standardfall weg, an den niemand gedacht hat.
Was ein Eval ist, ohne Fachchinesisch
Ein Eval ist eine gespeicherte Sammlung aus Eingabe und erwarteter Ausgabe. Mehr nicht. Du legst zwanzig echte Fälle ab, dazu was jeweils herauskommen soll, und lässt sie auf Knopfdruck durchlaufen.
Für einen Klassifizierungs-Ablauf sieht das so aus: zwanzig echte Dokumente, dazu die richtige Kategorie. Der Durchlauf sagt dir, wie viele davon korrekt zugeordnet wurden. Fertig.
Das klingt nach wenig und ist genau deshalb das Werkzeug, das tatsächlich benutzt wird. Alles Aufwendigere baut man einmal und pflegt es nie.
Wie du an die Testfälle kommst
Die gute Nachricht: Du musst sie dir nicht ausdenken. Sie laufen bereits durch dein System.
Nimm die letzten hundert echten Vorgänge, wähle zwanzig aus und schreib dazu, was richtig gewesen wäre. Wichtig ist die Mischung: fünfzehn Normalfälle und fünf Fälle, die schon einmal schiefgegangen sind. Genau die Ausreißer sind der Grund, warum diese Sammlung wertvoll ist.
Zeitaufwand beim ersten Mal: etwa eine Stunde. Danach hängst du bei jedem Fehler, der auftritt, einen weiteren Fall an. So wächst die Sammlung genau dort, wo sie gebraucht wird.
Wenn es keine eindeutig richtige Antwort gibt
Bei Klassifizierung ist der Vergleich einfach. Bei erzeugten Texten wird es unschärfer, und da scheitern viele.
Was funktioniert, ist prüfen statt vergleichen. Nicht "ist der Text identisch", sondern: Enthält die Antwort die Kundennummer? Ist sie kürzer als 200 Wörter? Kommt eine Preisangabe vor, die nicht in den Quelldaten stand? Solche Prüfungen sind ein paar Zeilen lang und fangen die relevanten Fehler.
Für den Rest kann man ein zweites Modell als Prüfer einsetzen, das die Antwort gegen Kriterien bewertet. Das funktioniert brauchbar, ist aber selbst nicht unfehlbar. Ich nutze es als Ergänzung, nie als einzige Instanz.
Wann der Durchlauf startet
Drei Zeitpunkte reichen völlig.
- Bevor du eine Anweisung änderst und danach noch einmal.
- Bevor du das Modell wechselst.
- Einmal im Monat ohne besonderen Anlass, weil sich auch ohne dein Zutun etwas ändern kann.
Der monatliche Durchlauf ist der, den alle weglassen und der am häufigsten etwas findet.
Der Nebeneffekt, den ich unterschätzt hatte
Eine Sammlung von Testfällen zwingt dich, aufzuschreiben, was eigentlich richtig ist. Und dabei stellt sich regelmäßig heraus, dass es dazu im Team unterschiedliche Meinungen gibt.
Bei einem Kunden hat genau dieser Schritt eine Woche Diskussion ausgelöst, weil zwei Abteilungen dieselbe Dokumentart unterschiedlich einsortierten. Das war kein KI-Problem und wäre ohne die Automatisierung nie aufgefallen.
Wer solche Abläufe strukturiert aufbauen will, findet unter KI-Automatisierung die passenden Werkzeuge und Vorgehensweisen.
Fazit
Zwanzig Testfälle sind der Unterschied zwischen einer Automatisierung, der du vertraust, und einer, die du hoffentlich im Blick behältst.
Der Aufwand ist eine Stunde für den Anfang und fünf Minuten pro Durchlauf. Das ist billiger als der erste Fall, in dem du einem Kunden erklären musst, warum sein Vorgang seit sechs Wochen falsch einsortiert wird.
Josef vom KI Club
