EU AI Act für KI-Agenten im Unternehmen

Das Wichtigste in Kürze

• Ein KI-Agent ist nicht automatisch einer bestimmten Risikokategorie zuzuordnen. Entscheidend ist, was das System konkret tut und wofür es eingesetzt wird.
• Ein Unternehmen kann je nach Tätigkeit Anbieter, Betreiber oder Nutzer eines Systems sein. Daraus können unterschiedliche Anforderungen entstehen.
• Halten Sie Aufgabe, Nutzerkreis, Datenzugriff, Befugnisse und mögliche Auswirkungen schriftlich fest.
• Regeln Sie, welche Entscheidungen der Agent vorbereiten darf und wann eine Person prüfen oder freigeben muss.
• Zeitpläne, Ausnahmen und Auslegungen können sich ändern. Maßgeblich sind aktuelle amtliche Quellen und eine Prüfung des Einzelfalls.

Worum es geht

Der EU AI Act ordnet den Einsatz von KI anhand von Rollen und Risiken ein. Für Unternehmen reicht es deshalb nicht, nur den Produktnamen oder die Bezeichnung „KI-Agent“ zu dokumentieren. Wichtig ist die konkrete Funktion: Welche Aufgabe übernimmt das System, wer verwendet es und was kann passieren, wenn seine Ausgabe falsch oder unvollständig ist?

Auch die Rolle Ihres Unternehmens muss geklärt werden. Sie können ein System selbst entwickeln oder wesentlich verändern, es in eigener Verantwortung bereitstellen oder ein bestehendes System für einen bestimmten Zweck einsetzen. Je nach Konstellation können unterschiedliche Rollen und Anforderungen relevant sein. Die Begriffe und ihre rechtliche Bedeutung sollten anhand der aktuellen amtlichen Erläuterungen geprüft werden.

Die Einordnung nach dem AI Act ersetzt keine Prüfung anderer Pflichten. Wenn der Agent beispielsweise personenbezogene Daten verarbeitet oder Entscheidungen in einem geregelten Geschäftsprozess unterstützt, können weitere rechtliche und organisatorische Anforderungen eine Rolle spielen. Dieser Beitrag bietet Orientierung und keine Rechtsberatung.

Typische Ausgangslage

Stellen Sie sich ein Unternehmen vor, das einen KI-Agenten einführt, um eingehende Anfragen zu sortieren und Antwortentwürfe vorzubereiten. Zunächst scheint die Aufgabe überschaubar. Bei genauerem Hinsehen zeigt sich jedoch: Der Agent liest möglicherweise Kundendaten, greift auf interne Wissensbestände zu und könnte Antworten versenden, wenn der Ablauf nicht entsprechend begrenzt ist.

Für die Prüfung genügt dann nicht die Aussage „Wir nutzen ein fertiges Werkzeug“. Das Unternehmen sollte klären, wer das System bereitstellt, wer es betreibt, welche Aufgabe intern festgelegt wurde und ob die Ausgaben Menschen oder Abläufe wesentlich beeinflussen. Ebenso wichtig ist, welche Befugnisse der Agent tatsächlich erhält – etwa nur Vorschläge zu erstellen oder auch Handlungen auszulösen.

So gehen Sie vor

1. Den Einsatz genau beschreiben. Halten Sie fest, welche Aufgabe der Agent erledigt, welche Nutzergruppen ihn verwenden und in welchem Prozess er eingesetzt wird. Beschreiben Sie den tatsächlichen Ablauf, nicht nur die geplante Funktion.

2. Rolle und Verantwortlichkeiten klären. Prüfen Sie, ob Ihr Unternehmen das System entwickelt, unter eigener Verantwortung bereitstellt oder ein vorhandenes System einsetzt. Dokumentieren Sie außerdem, wer intern für Konfiguration, Freigabe, Betrieb und Kontrolle zuständig ist. Bei mehreren Beteiligten sollten Zuständigkeiten nicht unausgesprochen bleiben.

3. Daten und Zugriffe erfassen. Notieren Sie, auf welche Informationen der Agent zugreifen kann, welche Daten er verarbeitet und ob er Ergebnisse speichern oder weitergeben darf. Begrenzen Sie Zugriffsrechte auf das, was für die Aufgabe erforderlich ist. Prüfen Sie auch, ob sich Berechtigungen im laufenden Betrieb ändern können.

4. Mögliche Auswirkungen bewerten. Fragen Sie, wen eine fehlerhafte Ausgabe betreffen könnte und welche Folgen sie hätte. Ein interner Entwurf, der vor Verwendung geprüft wird, ist anders zu betrachten als eine Ausgabe, die unmittelbar eine Entscheidung oder Handlung auslöst. Diese Überlegung ersetzt keine formale Risikoeinordnung, macht aber offene Fragen sichtbar.

5. Aktuelle Anforderungen abgleichen. Gleichen Sie Zweck, Rolle und mögliche Risikoeinstufung mit den aktuellen Informationen der EU-Kommission und weiteren amtlichen Quellen ab. Wenn die Zuordnung unklar ist oder erhebliche Folgen haben kann, holen Sie qualifizierte Beratung ein.

6. Freigabe und Kontrolle festlegen. Bestimmen Sie, welche Ergebnisse ein Mensch prüfen muss, wer diese Prüfung übernimmt und wie Fehler gemeldet werden. Legen Sie fest, wann der Agent gestoppt oder sein Zugriff eingeschränkt wird. Prüfen Sie die Regeln erneut, wenn sich Aufgabe, Daten oder Befugnisse ändern.

Entscheidungskriterien und typische Fehler

Für die Einordnung sind mehrere Fragen hilfreich: Verarbeitet der Agent lediglich Informationen oder beeinflusst er eine Entscheidung? Kann er selbst Nachrichten versenden, Datensätze ändern oder weitere Systeme ansteuern? Sind die Ausgaben für interne Beschäftigte bestimmt oder wirken sie sich auf andere Personen aus? Wie leicht lässt sich ein Fehler erkennen und korrigieren?

Ein häufiger Fehler ist, die Risikoeinordnung aus dem Produktnamen, der Anbieterbeschreibung oder einer allgemeinen Aussage zur eingesetzten Technik abzuleiten. Auch die Annahme, ein fertiges Werkzeug mache das Unternehmen automatisch nur zum passiven Nutzer, kann zu kurz greifen. Entscheidend sind die tatsächliche Rolle und der konkrete Verwendungszweck.

Unklar bleibt die Verantwortung oft dort, wo Fachbereich, IT und Anbieter jeweils nur einen Teil des Ablaufs kennen. Benennen Sie deshalb eine Stelle, die die Informationen zusammenführt. Halten Sie auch fest, welche Fragen noch offen sind, wer sie prüft und welche Änderungen am Einsatz bis dahin nicht vorgenommen werden sollten.

Grenzen und Risiken

Eine dokumentierte Prüfung ist keine Garantie dafür, dass eine Einordnung dauerhaft passt. Anforderungen und Zeitpläne können sich ändern; auch Produktupdates oder neue Einsatzbereiche können die Bewertung beeinflussen. Prüfen Sie deshalb erneut, wenn der Agent zusätzliche Daten erhält, für einen anderen Zweck genutzt wird oder mehr Handlungen eigenständig ausführen darf.

Menschliche Freigabe ist ebenfalls kein Selbstzweck. Sie hilft nur, wenn die prüfende Person die Ausgabe verstehen, Fehler erkennen und die Handlung tatsächlich stoppen oder ändern kann. Klären Sie daher, welche Informationen für die Prüfung angezeigt werden und wie mit Unsicherheit oder fehlenden Daten umzugehen ist.

Der AI Act ist nicht die einzige Prüfgrundlage. Datenschutz, Informationssicherheit, Arbeitsabläufe und gegebenenfalls weitere rechtliche Anforderungen müssen gesondert betrachtet werden. Welche Regeln im konkreten Fall gelten, sollte qualifiziert geprüft werden.

Woran Sie den Nutzen erkennen

Eine gute Einordnung macht die Entscheidung nachvollziehbar: Welche Rolle nimmt Ihr Unternehmen ein? Welche Risikoeinordnung wurde geprüft? Wer benötigt Schulung oder klare Arbeitsanweisungen? Welche Prüfmaßnahmen sind noch offen?

Führen Sie diese Punkte in einer knappen, gepflegten Dokumentation zusammen. Ergänzen Sie Zuständigkeiten, Zugriffsrechte, Freigabeschritte und den Anlass für eine erneute Prüfung. So wird sichtbar, ob der geplante Einsatz verantwortbar vorbereitet ist – und welche offenen Punkte vor einer Ausweitung geklärt werden müssen.

Häufige Fragen

Reicht es, wenn der Anbieter sagt, das System sei AI-Act-konform?

Diese Aussage kann ein Anhaltspunkt sein, ersetzt aber nicht die Prüfung Ihres konkreten Zwecks und Ihrer Rolle. Fragen Sie nach relevanten Informationen zum System und gleichen Sie diese mit dem tatsächlichen Einsatz ab.

Ist jeder KI-Agent automatisch ein Hochrisiko-System?

Nein, die Bezeichnung „KI-Agent“ entscheidet das nicht. Maßgeblich sind unter anderem die vorgesehene Nutzung und die geltenden Kriterien. Die konkrete Einordnung sollte anhand aktueller amtlicher Quellen geprüft werden.

Was sollte vor einem Pilotprojekt dokumentiert werden?

Halten Sie Aufgabe, Nutzerkreis, Datenzugriff, Befugnisse, mögliche Auswirkungen und menschliche Freigaben fest. Notieren Sie außerdem, welche rechtlichen Fragen noch offen sind und wer sie prüft.

Wann sollte die Einordnung erneut geprüft werden?

Prüfen Sie sie neu, wenn sich Zweck, Nutzerkreis, Datenzugriff oder Handlungsmöglichkeiten des Agenten ändern. Auch relevante Änderungen am System oder an den geltenden Anforderungen können eine erneute Bewertung erforderlich machen.