KI-Agenten testen und evaluieren vor dem Produktivstart

Das Wichtigste in Kürze

• Eine Demo zeigt meist einzelne Erfolgsszenarien, aber nicht, wie der Agent mit unvollständigen, widersprüchlichen oder ungewöhnlichen Eingaben umgeht.
• Fachverantwortliche legen typische Fälle, Varianten, erwartete Quellen und zulässige Ergebnisse fest.
• Prüfen Sie Suche, Antwort und Werkzeugaktion zunächst getrennt. Danach testen Sie den vollständigen Ablauf einschließlich Freigabe und Übergabe.
• Legen Sie vorab fest, welche Fehler tolerierbar sind und wann der Agent abbrechen oder an einen Menschen übergeben muss.
• Wiederholen Sie die Tests nach relevanten Änderungen an Anweisungen, Datenquellen, Berechtigungen oder Werkzeugen.

Worum es geht

Einen KI-Agenten zu testen bedeutet mehr, als einige Fragen einzugeben und die Antworten zu beurteilen. Ein Agent kann Informationen suchen, daraus eine Antwort erstellen und anschließend eine Aktion in einem angebundenen Werkzeug auslösen. Jede dieser Stufen kann anders scheitern. Eine plausible Antwort sagt zum Beispiel noch nicht aus, ob sie auf einer passenden Quelle beruht oder ob eine anschließende Aktion zulässig ist.

Die Evaluierung sollte deshalb an der konkreten Aufgabe ansetzen. Was darf der Agent erledigen? Welche Informationen darf er verwenden? Welche Entscheidungen bleiben bei Mitarbeitenden? Diese Fragen übersetzen Sie in prüfbare Fälle und klare Erwartungen. So können Fachverantwortliche beurteilen, ob der Agent für einen begrenzten Einsatzbereich geeignet ist – und wo seine Grenzen liegen.

Typische Ausgangslage

Stellen Sie sich ein Unternehmen vor, das einen Agenten zur Bearbeitung eingehender Anfragen erprobt. In einer Vorführung beantwortet er mehrere klar formulierte Fragen korrekt. Im Alltag kommen jedoch auch fehlende Angaben, abweichende Begriffe und Anfragen vor, die nicht zu den verfügbaren Unterlagen passen. Vielleicht schlägt der Agent dann eine Antwort vor, obwohl eine Rückfrage nötig wäre.

Die Fachverantwortlichen können festlegen, welche Anliegen häufig vorkommen, welche Varianten wichtig sind und welche Dokumente als maßgebliche Quellen gelten. Zusätzlich bestimmen sie, welche Aktionen der Agent nur vorbereiten darf und welche erst nach einer menschlichen Prüfung ausgeführt werden. Ohne diese Vorgaben lässt sich kaum unterscheiden, ob ein Ergebnis fachlich falsch, unvollständig oder lediglich anders formuliert ist.

So gehen Sie vor

1. Aufgabe und Grenzen beschreiben. Formulieren Sie, welche Arbeit der Agent unterstützen soll, welche Ergebnisse erwartet werden und welche Fälle außerhalb des Einsatzbereichs liegen. Legen Sie fest, wann er nachfragen, abbrechen oder übergeben muss.

2. Testfälle aus der Praxis sammeln. Fachverantwortliche wählen typische Fälle und wichtige Varianten aus. Ergänzen Sie schwierige Eingaben: fehlende Informationen, widersprüchliche Angaben, ungewöhnliche Formulierungen und Fragen ohne passende Quelle. Die Fälle sollten den späteren Arbeitsalltag abbilden, nicht nur eine Demo gut aussehen lassen.

3. Erwartungen und Quellen dokumentieren. Halten Sie je Fall fest, welche Quellen relevant sind, welche Kernaussage erwartet wird und welche Antwort nicht zulässig wäre. Bei Aufgaben mit Werkzeugnutzung beschreiben Sie auch die erlaubten Aktionen und den erforderlichen Freigabeschritt.

4. Die Suche prüfen. Kontrollieren Sie, ob der Agent die passenden Informationen findet und ob er veraltete, unpassende oder widersprüchliche Inhalte erkennt. Eine richtige Antwort kann zufällig entstehen; deshalb sollte auch nachvollziehbar sein, auf welche zugelassenen Quellen sie sich stützt.

5. Antwort und Aktion getrennt testen. Beurteilen Sie die fachliche Antwort unabhängig davon, ob ein Werkzeug korrekt bedient wird. Prüfen Sie anschließend, ob die vorgesehene Aktion richtig vorbereitet wird, ob Berechtigungen eingehalten werden und ob der Agent bei Unsicherheit keine unerlaubte Handlung ausführt.

6. Den gesamten Ablauf mit Freigabe durchspielen. Testen Sie den Weg von der Eingabe über Suche und Antwort bis zur Aktion, Prüfung, Korrektur oder Übergabe. Dabei zeigt sich, ob Beschäftigte erkennen, was der Agent vorbereitet hat und was sie vor einer Freigabe kontrollieren müssen.

7. Änderungen nachtesten. Wiederholen Sie passende Tests, wenn sich Anweisungen, Quellen, Rechte oder Werkzeuge ändern. Ein Regressionstest zeigt, ob eine Verbesserung an einer Stelle andere Fälle verschlechtert hat. Dokumentieren Sie, welche Version geprüft wurde und welche offenen Punkte bleiben.

Entscheidungskriterien und typische Fehler

Ein sinnvoller Testplan betrachtet nicht nur, ob eine Antwort „gut klingt“. Fragen Sie stattdessen: Ist die Information fachlich richtig und durch eine passende Quelle gestützt? Erkennt der Agent fehlende Angaben? Hält er sich an seine Berechtigungen? Übergibt er Fälle, die er nicht sicher bearbeiten kann? Können Mitarbeitende eine vorgeschlagene Aktion vor der Ausführung prüfen?

Typische Fehler sind eine zu kleine Sammlung von Testfällen, ausschließlich einfache Beispieldaten und eine Bewertung ohne vorher festgelegte Erwartungen. Auch ein zusammengefasstes Gesamturteil kann Schwächen verdecken: Gute Antworten gleichen keine unerlaubten Aktionen aus. Bewerten Sie deshalb Suche, Antwort, Werkzeugnutzung und vollständigen Ablauf getrennt.

Grenzen und Risiken

Tests können nicht jede spätere Eingabe und jede Veränderung der Arbeitsumgebung vorwegnehmen. Sie liefern eine begründete Einschätzung für den geprüften Einsatzbereich, aber keine Garantie für künftige Ergebnisse. Kennzeichnen Sie deshalb, welche Fälle geprüft wurden, welche nicht und welche Einschränkungen für den Einsatz gelten.

Verwenden Sie sensible Echtdaten nur, wenn dafür geeigneter Schutz und die erforderlichen Freigaben vorliegen. Prüfen Sie im Einzelfall, welche Datenschutz- und sonstigen rechtlichen Anforderungen gelten; dieser Beitrag ersetzt keine Rechtsberatung. Rechte sollten auf die konkrete Aufgabe begrenzt sein. Aktionen mit erheblichen Folgen sollten nicht allein deshalb automatisch ausgeführt werden, weil sie in einem Testfall funktioniert haben.

Woran Sie den Nutzen erkennen

Erfassen Sie Ergebnisse so, dass sie für die Entscheidung über den nächsten Einsatzschritt hilfreich sind. Dazu gehören relevante Treffer in den Quellen, fachliche Korrekturen, unerlaubte oder falsch vorbereitete Aktionen, Übergaben an Mitarbeitende und die Prüfzeit. Ergänzen Sie bei Bedarf, welche Fehlerarten wiederkehren und ob Änderungen sie beeinflussen.

Legen Sie vor dem Test fest, welche Ergebnisse für Ihren konkreten Einsatz akzeptabel sind. Ein Grenzwert lässt sich nicht pauschal für alle Aufgaben bestimmen: Eine falsche Formulierung in einem Entwurf hat eine andere Bedeutung als eine nicht freigegebene Aktion. Entscheidend ist, dass Sie Aufwand und Wirkung transparent machen und nachvollziehbar entscheiden können, ob der Agent weiter erprobt, angepasst oder vorerst nicht eingesetzt wird.

Häufige Fragen

Reicht ein erfolgreicher Testlauf vor dem Start?

Nein. Ein einzelner Durchlauf deckt nicht automatisch Varianten, Grenzfälle und Änderungen im Betrieb ab. Prüfen Sie eine passende Auswahl von Fällen und wiederholen Sie relevante Tests nach Änderungen.

Wer sollte die Testfälle festlegen?

Die fachliche Verantwortung liegt bei den Personen, die den Ablauf kennen und die Folgen eines Fehlers einschätzen können. Technische Beteiligte können unterstützen, aber fachliche Erwartungen und zulässige Grenzen müssen aus dem Arbeitsbereich kommen.

Muss jeder Schritt des Agenten automatisch freigegeben werden?

Das hängt von Aufgabe, Folgen und Fehlerkosten ab. Definieren Sie bewusst, welche Schritte der Agent vorbereiten darf und wo ein Mensch prüfen oder entscheiden muss. Diese Grenze sollte im Test und in der späteren Nutzung klar erkennbar sein.

Was sollte nach einem Test dokumentiert werden?

Halten Sie Testfälle, verwendete Quellen, Ergebnisse, erkannte Fehler, Freigabeschritte und offene Grenzen fest. Notieren Sie auch, welche Änderungen einen erneuten Test erforderlich machen.