KI-Anbieter und Datenschutz im Unternehmen prüfen

Das Wichtigste in Kürze

• Prüfen Sie den tatsächlich genutzten Dienst, Tarif und dessen Einstellungen. Allgemeine Aussagen eines Anbieters beantworten nicht automatisch, wie Ihr konkreter Einsatz behandelt wird.
• Klären Sie, welche Daten verarbeitet und gespeichert werden, wer darauf zugreifen kann und ob Eingaben für Trainingszwecke verwendet werden.
• Gleichen Sie die Antworten mit Vertrag und Produktdokumentation ab. Halten Sie offene Punkte fest, statt Annahmen als geklärt zu behandeln.
• Begrenzen Sie Datenzugriff und Rechte des KI-Agenten auf das, was seine Aufgabe erfordert. Legen Sie fest, welche Schritte eine Person freigeben muss.
• Führen Sie ein Anbieterregister mit Prüfdatum, Zuständigkeit und offenen Fragen. Prüfen Sie die Angaben erneut, wenn sich Dienst, Tarif oder Einsatz ändern.

Worum es geht

Ein KI-Dienst kann Texte, Dateien oder andere Eingaben verarbeiten. Je nach Produkt und Konfiguration können sich unterscheiden, ob Inhalte gespeichert, für Trainingszwecke genutzt oder im Rahmen des Supports eingesehen werden können. Auch Speicherfristen, Speicherregionen und beteiligte Unterauftragnehmer können relevant sein.

Für Unternehmen reicht es deshalb nicht, eine Werbeaussage wie datenschutzfreundlich oder sicher als abschließende Prüfung zu behandeln. Sie müssen nachvollziehen, welche Daten aus Ihrem Arbeitsablauf an welchen Dienst gelangen und welche Bedingungen für genau diesen Dienst gelten. Dabei gehören technische Einstellungen und vertragliche Regelungen zusammen: Eine passende Einstellung ersetzt keine Prüfung des Vertrags, und eine Vertragsklausel sagt nicht immer, wie der Dienst im Alltag konfiguriert ist.

Bei KI-Agenten kommt eine weitere Frage hinzu: Was darf der Agent mit den Daten tun? Ein Dienst, der Informationen zusammenfasst, hat andere Zugriffs- und Handlungsmöglichkeiten als ein Agent, der Datensätze verändert, Nachrichten vorbereitet oder Aktionen in einem betrieblichen System auslösen kann.

Typische Ausgangslage

Stellen Sie sich ein Unternehmen vor, das einen KI-Agenten für die interne Bearbeitung von Anfragen testen möchte. Mitarbeitende könnten dafür Nachrichten, Anhänge oder Auszüge aus einem Kundensystem bereitstellen. Das Team kennt den Namen des KI-Anbieters, aber nicht sicher den gebuchten Tarif, die geltenden Speicherregeln oder die Zugriffsrechte des Agenten.

In dieser Situation kann eine unklare Einstellung dazu führen, dass vertrauliche Inhalte in ein nicht freigegebenes Werkzeug gelangen. Ebenso kann ein Agent mehr Daten sehen oder mehr Aktionen ausführen, als für den Test notwendig ist. Der erste Schritt ist daher nicht, möglichst viele Funktionen zu aktivieren. Klären Sie zunächst Aufgabe, Datenbedarf und Verantwortlichkeit.

So gehen Sie vor

1. Beschreiben Sie den konkreten Einsatz. Notieren Sie, welche Aufgabe der KI-Agent übernehmen soll, welche Personen ihn nutzen und welche Systeme beteiligt sind. Eine klare Aufgabenbeschreibung macht sichtbar, welche Daten der Agent tatsächlich benötigt.

2. Ordnen Sie die Datenarten ein. Erfassen Sie, ob der Ablauf allgemeine Informationen, interne Unterlagen, Kundenangaben, Beschäftigtendaten oder andere vertrauliche Inhalte berührt. Wenn die Datenarten noch unklar sind, verwenden Sie diese Unklarheit als offenen Prüfpunkt und nicht als Freigabe.

3. Erfragen Sie die Verarbeitung beim Anbieter. Fragen Sie konkret nach Speicherung, Speicherfristen, Regionen, Trainingsnutzung, Supportzugriff, Unterauftragnehmern sowie Möglichkeiten für Löschung und Export. Lassen Sie auch erläutern, welche Funktion diese Angaben betreffen und ob sie für den gebuchten Tarif gelten.

4. Gleichen Sie Antworten mit den Unterlagen ab. Prüfen Sie Produktbeschreibung, Einstellungen und Vertrag gemeinsam. Halten Sie fest, wo Angaben übereinstimmen, wo sie voneinander abweichen und welche Punkte der Anbieter noch beantworten muss. Eine mündliche Auskunft allein sollte nicht als vollständige Dokumentation des Einsatzes dienen.

5. Begrenzen Sie Rechte und Datenzugriff. Geben Sie dem Agenten nur die Zugänge, die für die beschriebene Aufgabe erforderlich sind. Prüfen Sie, ob ein Test mit Beispieldaten oder anonymisierten Inhalten auskommt und ob der Agent Daten nur lesen oder auch verändern beziehungsweise Aktionen auslösen kann.

6. Legen Sie menschliche Freigaben fest. Bestimmen Sie, welche Ergebnisse eine Person kontrolliert, bevor sie weitergegeben oder in einem anderen System gespeichert werden. Besonders bei folgenreichen Aktionen sollte klar sein, wer prüft, wer freigibt und wie sich eine fehlerhafte Ausgabe korrigieren lässt.

7. Dokumentieren Sie die Prüfung. Führen Sie ein Anbieterregister mit Dienst, Tarif, Einsatzzweck, Prüfdatum, geprüften Unterlagen, verantwortlicher Person und offenen Punkten. Legen Sie außerdem fest, wann eine erneute Prüfung nötig ist, etwa bei einem neuen Einsatz oder einer Änderung der Einstellungen.

Entscheidungskriterien und typische Fehler

Ein Anbieter ist besser einschätzbar, wenn die Informationen auf den konkreten Dienst und Tarif bezogen sind und sich mit den Vertragsunterlagen abgleichen lassen. Wichtig ist außerdem, ob Sie Datenzugriffe und Einstellungen steuern können, ob Löschung und Export verständlich beschrieben sind und ob Zuständigkeiten für Support und Unterauftragnehmer nachvollziehbar sind.

Typische Fehler entstehen, wenn ein Unternehmen nur den Serverstandort prüft, eine allgemeine Aussage zur Datensicherheit übernimmt oder davon ausgeht, dass alle Tarife eines Anbieters dieselben Bedingungen haben. Auch ein Test ohne klare Datenregeln kann problematisch werden: Mitarbeitende könnten vertrauliche Inhalte eingeben, obwohl der Dienst dafür noch nicht freigegeben ist.

Vermeiden Sie außerdem eine pauschale Freigabe für beliebige Zwecke. Eine Prüfung für das Zusammenfassen interner Texte beantwortet nicht automatisch, ob derselbe Dienst auch für Kundendaten oder automatisierte Aktionen geeignet ist. Halten Sie daher Zweck und erlaubte Datenarten fest.

Grenzen und Risiken

Keine einzelne Angabe belegt für sich genommen, dass ein KI-Dienst für jeden Unternehmenseinsatz geeignet ist. Serverregion, Anbieterinformationen und vertragliche Regelungen müssen im Zusammenhang mit dem konkreten Datenfluss und der tatsächlichen Konfiguration betrachtet werden. Ändern sich Produkt, Tarif, Einstellungen oder Unterauftragnehmer, kann eine erneute Prüfung erforderlich sein.

Geben Sie keine vertraulichen Informationen in Werkzeuge ein, die Ihr Unternehmen nicht geprüft und freigegeben hat. Wenn Speicher- oder Löschwege unklar sind, verwenden Sie für den Test keine echten sensiblen Inhalte, bis die offenen Fragen geklärt sind.

Die Einordnung datenschutzrechtlicher und weiterer rechtlicher Anforderungen hängt vom Einzelfall ab. Dieser Beitrag ersetzt keine Rechtsberatung. Lassen Sie konkrete Pflichten bei Bedarf fachkundig prüfen, insbesondere wenn sensible Daten verarbeitet werden oder der Agent eigenständig folgenreiche Schritte ausführen soll.

Woran Sie den Nutzen erkennen

Eine nachvollziehbare Prüfung zeigt sich nicht daran, dass alle Risiken verschwinden. Sie erkennen ihren Nutzen daran, dass Verantwortliche wissen, welcher Dienst für welchen Zweck freigegeben ist, welche Daten dort verwendet werden dürfen und welche Fragen noch offen sind.

Das Anbieterregister hilft, Entscheidungen später nachzuvollziehen. Ergänzen Sie es um praktische Kontrollen: Wird der Agent innerhalb der vereinbarten Rechte genutzt? Werden Ausgaben vor der Weitergabe geprüft? Können Zugänge entzogen und Datenlöschungen angestoßen werden? So wird aus einer einmaligen Anbieterrecherche eine überprüfbare Arbeitsweise.

Häufige Fragen

Reicht es, wenn der Anbieter einen Serverstandort nennt?

Nein. Der Standort ist ein Prüfpunkt, aber keine vollständige Bewertung. Klären Sie auch Datenarten, Speicherfristen, Trainingsnutzung, Zugriffe, Unterauftragnehmer sowie Lösch- und Exportmöglichkeiten.

Muss ich jede Eingabe in einem KI-Dienst vertraglich prüfen?

Welche Prüfung erforderlich ist, hängt vom Dienst, den Daten und dem Einsatzzweck ab. Gleichen Sie die relevanten Anbieterinformationen mit dem gebuchten Produkt und den Vertragsunterlagen ab. Bei rechtlichen Fragen ist eine Prüfung im Einzelfall sinnvoll.

Was sollte ein Anbieterregister enthalten?

Halten Sie mindestens Dienst und Tarif, Einsatzzweck, erlaubte Datenarten, Prüfdatum, zuständige Person und offene Punkte fest. Ergänzen Sie wichtige Einstellungen und den Stand der Prüfung, damit andere nachvollziehen können, worauf eine Freigabe beruht.

Wann sollte ich die Prüfung wiederholen?

Prüfen Sie erneut, wenn sich der Einsatzzweck, der Tarif, die Einstellungen oder die verfügbaren Funktionen ändern. Auch neue Datenarten oder zusätzliche Rechte des KI-Agenten können eine erneute Bewertung erforderlich machen.