KI-Agent im Schattenbetrieb: den Pilot sicher testen

Das Wichtigste in Kürze

• Im Schattenbetrieb bearbeitet der Agent ausgewählte Fälle parallel, ohne Entscheidungen auszuführen oder Nachrichten zu versenden.
• Der Vergleich mit menschlichen Ergebnissen zeigt, ob Vorschläge brauchbar sind und welche Fälle der Agent falsch einordnet oder nicht abdeckt.
• Legen Sie vor dem Test fest, welche Daten der Agent sehen darf, wie Ergebnisse protokolliert werden und wer sie prüft.
• Bewerten Sie nicht nur die Übereinstimmung. Kritische Abweichungen, Prüfaufwand und Fallabdeckung gehören ebenfalls dazu.
• Ein Pilot braucht klare Abbruchkriterien. Er sollte nicht automatisch in den produktiven Betrieb übergehen.

Worum es geht

Ein KI-Agent im Schattenbetrieb verarbeitet Fälle parallel zu einem bestehenden Ablauf. Die Mitarbeitenden bearbeiten ihre Fälle wie gewohnt. Zusätzlich erstellt der Agent einen Vorschlag, eine Einordnung oder einen nächsten Schritt. Dieser bleibt zunächst intern und wird nicht automatisch an Kundinnen, Kunden oder andere Stellen weitergegeben.

Der Zweck des Tests ist nicht, möglichst viele Fälle durch den Agenten laufen zu lassen. Es geht darum, unter kontrollierten Bedingungen zu prüfen, ob seine Ergebnisse zum konkreten Arbeitsablauf passen. Ein überzeugender Einzelfall reicht dafür nicht: Entscheidend ist auch, ob der Agent mit unvollständigen Angaben, ungewöhnlichen Fällen und Ausnahmen sinnvoll umgeht.

Schattenbetrieb bedeutet zudem nicht automatisch, dass keinerlei Veränderung an Systemen stattfindet. Die technische Einrichtung muss so gewählt und geprüft werden, dass der Agent keine unbeabsichtigten Aktionen auslösen kann. Schreibrechte, Versandfunktionen und andere mögliche Außenwirkungen sollten für den Pilot gezielt ausgeschlossen oder technisch begrenzt sein.

Typische Ausgangslage

Stellen Sie sich einen Betrieb vor, in dem Mitarbeitende eingehende Vorgänge prüfen und einem passenden Bearbeitungsschritt zuordnen. Ein KI-Agent soll künftig Informationen vorsortieren und einen Vorschlag für die Zuständigkeit machen. Bevor dieser Vorschlag den Ablauf beeinflusst, wird er parallel erstellt und mit der tatsächlichen Bearbeitung verglichen.

Dabei kann sich zeigen, dass der Agent bei klar beschriebenen Vorgängen hilfreich ist, aber bei fehlenden Angaben zu selbstsichere Vorschläge macht. Vielleicht erkennt er bestimmte Ausnahmen nicht oder ordnet ähnliche Fälle unterschiedlich ein. Solche Unterschiede sind wertvolle Testergebnisse – vorausgesetzt, der Vergleich erfasst auch, warum die menschliche Bearbeitung abweicht.

So gehen Sie vor

1. Aufgabe und Grenze festlegen. Beschreiben Sie genau, welche Teilaufgabe der Agent testen soll und was ausdrücklich außerhalb des Piloten liegt. Ein enger Auftrag lässt sich besser beurteilen als ein unbestimmtes Ziel wie „Vorgänge automatisieren“.

2. Vergleichsmaßstab vereinbaren. Legen Sie fest, was als hilfreicher Vorschlag gilt und wann eine Abweichung kritisch ist. Die bisherige menschliche Bearbeitung ist ein wichtiger Vergleich, aber nicht in jedem Fall automatisch fehlerfrei oder eindeutig. Bei strittigen Fällen sollte nachvollziehbar sein, wer die Einordnung prüft.

3. Datenzugriff und Zweck klären. Bestimmen Sie, welche Informationen der Agent für die Aufgabe tatsächlich benötigt und welche Daten ausgeschlossen werden können. Klären Sie vor dem Start, wo Eingaben und Ergebnisse verarbeitet oder gespeichert werden, wer darauf zugreifen kann und wie lange sie für die Auswertung benötigt werden. Datenschutz und Zugriffssicherheit müssen für den konkreten Anwendungsfall geprüft werden; eine allgemeine Einschätzung ersetzt keine Prüfung im Einzelfall.

4. Fallmix und Testumfang auswählen. Nehmen Sie nicht nur einfache, gut dokumentierte Fälle auf. Berücksichtigen Sie, soweit im jeweiligen Ablauf vorhanden, auch unvollständige Angaben, Grenzfälle und bekannte Ausnahmen. Die Auswahl sollte den Einsatzbereich abbilden, den Sie später beurteilen möchten. Halten Sie zugleich fest, welche Fälle nicht in den Test gehören.

5. Technische Schutzmaßnahmen einrichten. Der Agent sollte im Pilot keine produktiven Entscheidungen treffen, Datensätze verändern oder Mitteilungen versenden können, sofern das nicht ausdrücklich für einen kontrollierten Test vorgesehen und freigegeben ist. Prüfen Sie Rollen, Berechtigungen und mögliche Verbindungen zu anderen Systemen vor dem Start.

6. Ergebnisse kontrolliert erfassen. Protokollieren Sie Agentenvorschlag und menschliches Ergebnis so, dass sie vergleichbar sind. Erfassen Sie Abweichungen und deren Art, statt nur Übereinstimmung zu zählen. Begrenzen Sie den Zugriff auf die Auswertung und dokumentieren Sie, wie mit den Testdaten umgegangen wird.

7. Auswertung und Abbruch vorab regeln. Legen Sie fest, wer Ergebnisse prüft, wann der Pilot unterbrochen wird und welche Auffälligkeiten eine technische oder fachliche Klärung erfordern. Nach dem Test entscheiden Sie getrennt, ob Anpassungen nötig sind, ein weiterer begrenzter Test sinnvoll ist oder der Einsatz nicht weiterverfolgt wird.

Entscheidungskriterien und typische Fehler

Für die Bewertung eignen sich mehrere Blickwinkel:

• Übereinstimmung: Wie oft passt der Agentenvorschlag zur geprüften Bearbeitung – und in welchen Fallarten nicht?
• Kritische Abweichungen: Welche Fehler könnten im späteren Ablauf besonders schwerwiegende Folgen haben?
• Prüfaufwand: Wie viel fachliche Kontrolle ist nötig, um einen Vorschlag zuverlässig zu beurteilen?
• Fallabdeckung: Für welche Fälle liefert der Agent sinnvolle Vorschläge, und welche Fälle kann er nicht sicher bearbeiten?

Ein häufiger Fehler ist, nur den Anteil passender Vorschläge zu betrachten. Ein Agent kann bei vielen einfachen Fällen gut abschneiden und trotzdem eine wichtige Ausnahme übersehen. Ebenso wenig sollte eine Abweichung automatisch als Fehler des Agenten gelten: Prüfen Sie, ob Eingaben, Arbeitsanweisung oder menschliche Referenz uneindeutig waren.

Vermeiden Sie außerdem, nach Beginn des Piloten stillschweigend die Aufgabe oder den Fallmix zu verändern. Wenn sich der Testumfang ändert, dokumentieren Sie das. Sonst lassen sich Ergebnisse nur schwer vergleichen und Schlussfolgerungen werden unsicher.

Grenzen und Risiken

Auch wenn der Agent nichts ausführt, kann er personenbezogene oder andere vertrauliche Informationen verarbeiten. Der parallele Betrieb macht Datenverarbeitung nicht automatisch unbedenklich. Zweck, Datenumfang, Zugriffe, Speicherorte und Löschung müssen vorab geklärt werden. Rechtliche Anforderungen, einschließlich Datenschutz- und KI-rechtlicher Fragen, sind im konkreten Einsatz zu prüfen; dieser Beitrag ist keine Rechtsberatung.

Ein Schattenbetrieb zeigt außerdem nur, wie der Agent mit den getesteten Daten und Bedingungen umgeht. Er beweist nicht, dass die Ergebnisse in jeder späteren Situation zuverlässig sind. Ändern sich Datenquellen, Arbeitsabläufe oder Agentenkonfiguration, kann eine erneute Prüfung erforderlich sein. Auch ein scheinbar passender Vorschlag braucht eine verantwortliche Stelle, die festlegt, ob und wie er später genutzt werden darf.

Woran Sie den Nutzen erkennen

Der Pilot ist nützlich, wenn Sie danach konkreter entscheiden können als zuvor. Sie sollten benennen können, bei welchen Fällen der Agent brauchbare Unterstützung liefert, wo zusätzliche Prüfung nötig ist und welche Aufgaben oder Datenzugriffe ausgeschlossen bleiben müssen.

Halten Sie nicht nur positive Ergebnisse fest. Dokumentieren Sie auch wiederkehrende Abweichungen, unklare Eingaben und Fälle, die der Agent nicht sinnvoll abdeckt. So entsteht eine belastbare Grundlage für die nächste Entscheidung: den Ablauf verändern, den Agenten anpassen, einen weiteren begrenzten Test durchführen oder den Ansatz beenden.

Häufige Fragen

Führt der Agent im Schattenbetrieb wirklich nichts aus?

Das hängt von der technischen Einrichtung ab. Für einen kontrollierten Pilot sollten mögliche Schreib-, Versand- oder Auslösefunktionen deaktiviert oder klar begrenzt und vor Beginn geprüft sein. Die Bezeichnung „Schattenbetrieb“ allein ist keine technische Schutzmaßnahme.

Reicht es, die Agentenergebnisse mit menschlichen Ergebnissen abzugleichen?

Der Abgleich ist ein wichtiger Teil, aber nicht immer ausreichend. Prüfen Sie auch, warum Ergebnisse voneinander abweichen, ob die menschliche Bearbeitung eindeutig war und ob bestimmte Fallarten im Test fehlen.

Welche Daten darf der Agent im Pilot sehen?

Nur die Daten, die für die festgelegte Aufgabe erforderlich und für den konkreten Test freigegeben sind. Zweck, Zugriff und Umgang mit Ergebnissen müssen vorab geklärt werden. Welche Anforderungen gelten, ist im Einzelfall zu prüfen.

Wann sollte ein Schattenbetrieb beendet werden?

Beenden oder pausieren Sie den Test, wenn vorab definierte Abbruchkriterien erreicht werden, unerwartete Zugriffe oder Aktionen auftreten oder sich kritische Abweichungen häufen. Klären Sie anschließend die Ursache, bevor Sie über eine Fortsetzung entscheiden.