KI-Agent: Menschliche Freigabe sinnvoll einsetzen

Das Wichtigste in Kürze

• Human-in-the-loop bedeutet: Ein Mensch ist an einer oder mehreren Stellen in den Ablauf eines KI-Agenten eingebunden.
• Eine Freigabe ist besonders wichtig, wenn der Agent Geld bewegt, verbindliche Zusagen vorbereitet oder sensible Daten verarbeitet.
• Kontrolle funktioniert nur, wenn die prüfende Person ausreichend Kontext hat und die Entscheidung tatsächlich beeinflussen kann.
• Legen Sie vor dem Pilotprojekt fest, was der Agent darf, was ein Mensch freigibt und wie Fehler oder Ausnahmen behandelt werden.

Worum es geht

Ein KI-Agent kann Informationen aus mehreren Quellen zusammenführen und daraus einen nächsten Schritt ableiten. Human-in-the-loop bezeichnet einen Ablauf, in dem ein Mensch an einem festgelegten Punkt prüft, ergänzt oder entscheidet. Das kann vor einer Aktion geschehen, etwa bevor eine Gutschrift gebucht wird. Es kann auch danach stattfinden, zum Beispiel durch die regelmäßige Prüfung bearbeiteter Vorgänge.

Menschliche Kontrolle ist mehr als ein Freigabeknopf. Die prüfende Person muss sehen können, worauf ein Vorschlag beruht, welche Informationen fehlen und welche Folgen eine Bestätigung hat. Sonst wird die Freigabe leicht zu einem schnellen Klick ohne echte Prüfung.

Typische Ausgangslage

Stellen Sie sich einen mittelständischen Betrieb vor, der regelmäßig Anfragen zu beschädigter Ware erhält. Ein KI-Agent liest die Nachricht, sucht die zugehörige Bestellung und fasst den Fall zusammen. Er schlägt eine Gutschrift vor, wenn die Angaben nach den hinterlegten Regeln dafür sprechen.

Der Agent sollte nicht allein deshalb eine Gutschrift auslösen, weil eine Anfrage überzeugend formuliert ist. Es kann ein Beleg fehlen, die Bestellung nicht eindeutig zugeordnet sein oder der geschilderte Schaden eine Rückfrage erfordern. In einem geeigneten Ablauf sieht eine zuständige Person die Anfrage, die Bestelldaten, den Grund für den Vorschlag und offene Punkte. Erst nach ihrer Entscheidung wird der nächste Schritt ausgeführt.

Das Beispiel ist ein mögliches Szenario, kein Bericht über einen realen Betrieb. Es zeigt, warum die Aufgabe in einzelne Schritte zerlegt werden sollte: Informationen erfassen, Fall zuordnen, Regel anwenden, Vorschlag erstellen und Aktion freigeben.

So gehen Sie vor

1. Aufgabe und Folgen beschreiben. Halten Sie fest, was der Agent erledigen soll und was bei einem falschen Ergebnis passieren könnte. Eine interne Zusammenfassung hat andere Folgen als eine Buchung oder eine verbindliche Antwort an Kunden.

2. Datenzugriff eingrenzen. Der Agent braucht nur die Informationen, die für seine Aufgabe erforderlich sind. Prüfen Sie, auf welche Postfächer, Dokumente und Systeme er zugreifen darf und ob sensible Angaben in den Ablauf gehören.

3. Erlaubte Aktionen festlegen. Unterscheiden Sie zwischen Lesen, Zusammenfassen, Vorschlagen und Ausführen. Ein Pilot kann zunächst nur Vorschläge erstellen, ohne Daten zu verändern oder Nachrichten zu versenden.

4. Freigabepunkte definieren. Legen Sie fest, welche Fälle ein Mensch prüfen muss. Das können alle Vorgänge am Anfang sein, Fälle mit fehlenden Angaben oder Entscheidungen mit spürbaren Folgen. Begründen Sie die Auswahl anhand des konkreten Prozesses.

5. Prüfansicht und Zuständigkeit klären. Zeigen Sie der freigebenden Person die relevanten Quellen, den Vorschlag und mögliche Unsicherheiten. Bestimmen Sie, wer freigibt und an wen der Agent unklare Fälle weitergibt.

6. Mit einem begrenzten Pilot starten. Wählen Sie einen überschaubaren Anwendungsfall und beobachten Sie, welche Vorschläge stimmen, wo Informationen fehlen und wie viel Prüfaufwand entsteht. Passen Sie Regeln und Freigaben an, bevor Sie den Einsatz erweitern.

Entscheidungskriterien und typische Fehler

Eine pauschale Regel wie „alles muss freigegeben werden“ kann im Alltag zu vielen Prüfungen führen, ohne die entscheidenden Risiken gezielt zu adressieren. Die gegenteilige Regel, den Agenten nach einem kurzen Test selbstständig handeln zu lassen, kann wichtige Ausnahmefälle übersehen. Sinnvoller ist eine abgestufte Kontrolle.

Fragen Sie bei jeder Teilaufgabe:

• Wie schwer wäre ein Fehler zu erkennen oder rückgängig zu machen?
• Betrifft die Aktion Geld, personenbezogene Informationen, eine Zusage oder den Zugang zu einem System?
• Kann der Agent die nötigen Daten zuverlässig zuordnen, oder gibt es ähnliche Namen, unvollständige Dokumente und Sonderfälle?
• Kann die prüfende Person den Vorschlag in angemessener Zeit nachvollziehen?
• Was geschieht, wenn Daten fehlen oder der Agent widersprüchliche Hinweise findet?

Ein häufiger Fehler ist, die Freigabe nur als technische Funktion zu behandeln. Ohne klare Zuständigkeit bleiben Vorgänge liegen oder werden von Personen bestätigt, die den Fall nicht beurteilen können. Ebenfalls problematisch ist eine Prüfansicht, die nur das Ergebnis zeigt, aber weder Quellen noch offene Fragen.

Auch ein gutes Ergebnis in einfachen Fällen belegt nicht automatisch, dass der Ablauf für seltene Sonderfälle geeignet ist. Prüfen Sie deshalb gezielt, wie der Agent mit unvollständigen Angaben, widersprüchlichen Informationen und ungewöhnlichen Anfragen umgeht.

Grenzen und Risiken

Menschliche Freigabe beseitigt Fehler nicht. Menschen können Vorschläge übersehen, sich auf eine scheinbar passende Begründung verlassen oder unter Zeitdruck zu schnell bestätigen. Eine Kontrolle ist daher nur dann hilfreich, wenn sie in den Arbeitsablauf passt und genügend Informationen für eine eigenständige Entscheidung bietet.

Der Agent kann außerdem Informationen falsch zusammenführen oder eine Regel auf einen Fall anwenden, für den sie nicht gedacht war. Bauen Sie deshalb einen klaren Weg für Rückfragen und Ausnahmen ein. Wenn die Zuordnung unsicher ist, sollte der Vorgang zur Prüfung gehen, statt eine eindeutige Antwort vorzutäuschen.

Dokumentieren Sie, welche Datenquellen genutzt werden, welche Rechte der Agent hat und welche Person eine Aktion freigegeben hat. Die konkrete Gestaltung von Datenschutz und rechtlichen Anforderungen muss für den jeweiligen Einsatz geprüft werden. Dieser Artikel ersetzt keine Rechtsberatung.

Woran Sie den Nutzen erkennen

Messen Sie nicht nur, wie viele Aufgaben der Agent bearbeitet. Beobachten Sie auch, wie oft Vorschläge korrigiert werden, welche Gründe zu Rückfragen führen und wie viel Zeit für die Prüfung anfällt. Bei einer Gutschrift könnte relevant sein, ob Bestellungen korrekt zugeordnet werden und ob Mitarbeitende fehlende Belege schneller erkennen.

Vergleichen Sie die Ergebnisse mit dem bisherigen Ablauf und vereinbaren Sie vor dem Pilot, woran Sie eine Verbesserung erkennen. Dazu können weniger manuelle Suchschritte oder vollständigere Vorgangszusammenfassungen gehören. Wenn die Prüfung mehr Aufwand verursacht als der Agent abnimmt, ist das ebenfalls ein wichtiges Ergebnis: Dann sollte die Aufgabe oder der Freigabepunkt angepasst werden.

Häufige Fragen

Muss ein Mensch jeden Vorschlag eines KI-Agenten freigeben?

Nicht zwingend. Entscheidend sind die möglichen Folgen und die Zuverlässigkeit des konkreten Ablaufs. Für folgenreiche Aktionen kann eine Freigabe vor der Ausführung sinnvoll sein; bei weniger kritischen Aufgaben können stichprobenartige Prüfungen oder eine Kontrolle bei bestimmten Ausnahmen passen.

Was muss eine gute Freigabeansicht zeigen?

Mindestens den Vorschlag, die dafür herangezogenen Informationen und erkennbare Lücken oder Unsicherheiten. Die prüfende Person sollte außerdem verstehen, welche Aktion eine Bestätigung auslöst und wie sie einen Fall zur Klärung weitergeben kann.

Darf der Agent nach einer Freigabe selbstständig buchen?

Das hängt davon ab, wie der Prozess gestaltet ist und welche Folgen die Buchung hat. Legen Sie genau fest, ob die Freigabe einen einzelnen Vorgang betrifft oder ob der Agent danach weitere Schritte ausführen darf. Rechte sollten auf die tatsächlich benötigten Aktionen begrenzt sein.

Was ist ein sinnvoller erster Schritt?

Wählen Sie einen wiederkehrenden, klar abgrenzbaren Ablauf, etwa das Zusammenfassen von Kundenanfragen und das Vorbereiten eines Vorschlags. Lassen Sie den Agenten zunächst keine folgenreiche Aktion ausführen. Prüfen Sie gemeinsam, ob die Zusammenfassungen nachvollziehbar sind und welche Fälle zwingend an Mitarbeitende gehen.