KI-Agent zur Entscheidungsunterstützung im Unternehmen

Das Wichtigste in Kürze

• Ein KI-Agent zur Entscheidungsunterstützung kann Informationen ordnen, Zusammenhänge sichtbar machen und mögliche nächste Schritte vorschlagen.
• Eine plausibel formulierte Empfehlung ist weder automatisch neutral noch ausreichend belegt. Quellen, Datenlücken und Unsicherheit müssen erkennbar sein.
• Legen Sie vor dem Einsatz fest, welche Daten der Agent nutzen darf und welche Entscheidungen außerhalb seiner Zuständigkeit liegen.
• Prüfen Sie Empfehlungen für relevante Nutzergruppen und dokumentieren Sie, wie Menschen zu einer Entscheidung gekommen sind.
• Bei folgenreichen Bewertungen, etwa zu Personal oder Krediten, ist eine gesonderte fachliche und rechtliche Prüfung erforderlich.

Worum es geht

Ein KI-Agent zur Entscheidungsunterstützung im Unternehmen verarbeitet Informationen nach einer vorgegebenen Aufgabe. Er kann beispielsweise eingehende Angaben zusammenfassen, sie anhand festgelegter Kriterien ordnen oder auf fehlende Informationen aufmerksam machen. Das Ergebnis ist eine Arbeitshilfe – keine automatische Bestätigung, dass eine Empfehlung richtig oder fair ist.

Der Nutzen hängt davon ab, ob die Aufgabe klar abgegrenzt ist. „Hilf uns bei Entscheidungen“ ist zu unbestimmt. „Fasse die vorliegenden Angaben nach diesen Kriterien zusammen, nenne fehlende Informationen und belege jede Aussage mit ihrer Quelle“ lässt sich eher prüfen.

Auch die Datengrundlage spielt eine Rolle. Historische Daten können frühere Verzerrungen enthalten. Übernimmt ein Agent solche Muster, kann er sie in Empfehlungen fortführen. Deshalb reicht es nicht, nur einzelne Ausgaben auf sprachliche Qualität zu prüfen.

Typische Ausgangslage

Stellen Sie sich ein Team vor, das regelmäßig mehrere Anfragen oder Vorgänge sichten und nach festgelegten Gesichtspunkten vergleichen muss. Informationen liegen in unterschiedlichen Dokumenten vor. Mitarbeitende verbringen Zeit mit dem Zusammenstellen, müssen aber zugleich beurteilen, welche Angaben relevant sind und ob etwas fehlt.

Ein Agent könnte die Unterlagen zusammenfassen, relevante Stellen mit Quellenhinweisen versehen und offene Fragen kennzeichnen. Er sollte jedoch nicht stillschweigend eine Rangfolge als objektives Ergebnis ausgeben. Wenn Kriterien unklar sind oder Informationen widersprüchlich vorliegen, muss das sichtbar bleiben. Die zuständige Person prüft die Zusammenfassung und entscheidet, wie sie weiter vorgeht.

So gehen Sie vor

1. Entscheidungssituation abgrenzen. Beschreiben Sie, welche Informationen heute zusammengetragen werden und welche Entscheidung ein Mensch treffen muss. Der Agent sollte zunächst eine klar umrissene Teilaufgabe übernehmen, nicht den gesamten Entscheidungsprozess.

2. Kriterien offenlegen. Halten Sie fest, nach welchen Gesichtspunkten Informationen geordnet oder verglichen werden. Unklare, widersprüchliche oder nicht überprüfbare Kriterien führen zu Ergebnissen, deren Zustandekommen sich schwer beurteilen lässt.

3. Datenzugriff festlegen. Bestimmen Sie, auf welche Dokumente und Systeme der Agent zugreifen darf. Prüfen Sie, ob die Daten für die Aufgabe erforderlich, aktuell und in ihrer Herkunft nachvollziehbar sind. Begrenzen Sie Zugriffsrechte auf das nötige Maß.

4. Quellen und Unsicherheit anzeigen lassen. Die Ausgabe sollte kenntlich machen, worauf Aussagen beruhen, welche Informationen fehlen und wo der Agent unsicher ist. Eine Antwort ohne Beleg darf nicht den Eindruck einer gesicherten Erkenntnis erwecken.

5. Mit menschlicher Freigabe starten. Lassen Sie Empfehlungen zunächst prüfen, bevor sie in einen folgenreichen Ablauf einfließen. Definieren Sie, wer kontrolliert, wer eine Empfehlung übersteuern darf und wie Abweichungen begründet werden.

6. Ergebnisse kontrollieren und anpassen. Vergleichen Sie Agentenausgaben mit der fachlichen Prüfung. Dokumentieren Sie Fehler, Änderungen und wiederkehrende Datenlücken. Passen Sie Aufgabe, Kriterien oder Datenzugriff an, wenn die Kontrolle Schwächen zeigt.

Entscheidungskriterien und typische Fehler

Ein Einsatz ist eher geeignet, wenn Informationen wiederholt nach verständlichen Kriterien geordnet werden müssen und die zugrunde liegenden Angaben geprüft werden können. Weniger geeignet ist eine Aufgabe, bei der wichtige Kriterien nur implizit bekannt sind oder sich nicht zuverlässig aus den verfügbaren Daten ableiten lassen.

Typische Fehler sind:

• Eine Empfehlung als neutral zu behandeln, nur weil sie sachlich klingt.
• Historische Entscheidungen als unproblematische Vorlage zu verwenden, ohne mögliche Verzerrungen zu prüfen.
• Dem Agenten Zugriff auf mehr Daten zu geben, als die konkrete Aufgabe erfordert.
• Eine Zusammenfassung mit einer Bewertung oder Entscheidung zu verwechseln.
• Ausnahmen, widersprüchliche Angaben oder fehlende Daten in der Ausgabe zu übergehen.
• Nur die endgültige Empfehlung zu speichern, nicht aber Quellen, Kriterien und menschliche Änderungen.

Prüfen Sie außerdem, ob die Kriterien für alle relevanten Nutzergruppen angemessen wirken. Eine insgesamt plausible Ausgabe kann einzelne Gruppen unterschiedlich betreffen. Solche Unterschiede sollten untersucht und nicht durch einen Durchschnittswert verdeckt werden.

Grenzen und Risiken

Ein KI-Agent kann fehlerhafte, unvollständige oder verzerrte Informationen verarbeiten. Er kann auch eine unbelegte Schlussfolgerung überzeugend formulieren. Deshalb braucht es eine Kontrolle, die nicht nur fragt, ob die Antwort verständlich klingt, sondern ob sie sich anhand der Quellen und Kriterien nachvollziehen lässt.

Bei Personal-, Kredit- oder anderen folgenreichen Bewertungen darf ein Agent nicht ohne gesonderte Prüfung als Entscheidungsinstanz eingesetzt werden. Welche Anforderungen gelten, hängt vom konkreten Anwendungsfall ab. Datenschutz- und KI-rechtliche Fragen sollten im Einzelfall durch geeignete Fachleute geprüft werden; dieser Beitrag ersetzt keine Rechtsberatung.

Auch menschliche Freigabe ist nur dann wirksam, wenn die prüfende Person genügend Zeit, Informationen und Entscheidungsspielraum hat. Eine bloße Bestätigung ohne echte Möglichkeit zur Prüfung schafft keine belastbare Kontrolle.

Woran Sie den Nutzen erkennen

Vereinbaren Sie vor dem Start, woran Sie eine hilfreiche Unterstützung erkennen. Mögliche Messgrößen sind der Aufwand für das Zusammenstellen von Informationen, die Häufigkeit übersehener Datenlücken und die Zahl der Empfehlungen, die Menschen korrigieren oder übersteuern.

Prüfen Sie zusätzlich Abweichungen zwischen Nutzergruppen, die Nachvollziehbarkeit einzelner Entscheidungen und wiederkehrende Fehlerarten. Entscheidend ist nicht allein, ob der Agent schneller eine Antwort liefert. Die Ergebnisse müssen fachlich prüfbar sein und dürfen keine unbemerkten Verschiebungen in den Entscheidungskriterien erzeugen.

Häufige Fragen

Darf ein KI-Agent eine Entscheidung vorbereiten?

Er kann Informationen ordnen, Kriterien anwenden und offene Punkte benennen. Welche Rolle er in einem konkreten Prozess übernehmen darf, muss fachlich und gegebenenfalls rechtlich geprüft werden. Die verantwortliche Entscheidung sollte nachvollziehbar bei einer zuständigen Person liegen.

Wie lässt sich eine Empfehlung nachvollziehen?

Lassen Sie Quellen, verwendete Kriterien, fehlende Angaben und Unsicherheiten ausweisen. Dokumentieren Sie außerdem, welche Prüfung ein Mensch vorgenommen und ob er die Empfehlung übernommen oder verändert hat.

Was tun, wenn der Agent eine plausible, aber unbelegte Antwort gibt?

Behandeln Sie die Antwort als prüfbedürftig. Kontrollieren Sie die genannten Quellen und lassen Sie unbelegte Aussagen kennzeichnen oder aus der Ausgabe entfernen. Wenn sich der Fehler wiederholt, müssen Aufgabe, Datenbasis oder Kontrollschritte angepasst werden.

Welche Daten darf der Agent verwenden?

Nur Daten, die für die abgegrenzte Aufgabe erforderlich und für diesen Zweck freigegeben sind. Zugriffsrechte, Datenschutz und mögliche rechtliche Anforderungen sind vor dem Einsatz im konkreten Fall zu prüfen.