KI-Systeme ziehen schnell in Unternehmen ein: Chatbots, Zusammenfassungen, Textvorschläge, Supportassistenten, interne Wissenssuche, automatische Klassifikation oder Analyse von Kundendaten. Oft beginnt ein Projekt klein, mit einem Tool im Marketing oder Support. Datenschutz wird dann erst geprüft, wenn schon echte Daten in Prompts, Dateien oder Integrationen gelandet sind.
Technische und organisatorische Maßnahmen, kurz TOMs, machen den Unterschied zwischen Experiment und beherrschbarem Betrieb. Sie übersetzen abstrakte Datenschutzanforderungen in konkrete Kontrollen: Wer darf das System nutzen? Welche Daten dürfen hinein? Was wird protokolliert? Welche Anbieter sind beteiligt? Wie werden Ergebnisse geprüft? Genau diese Fragen sollten Unternehmen beantworten, bevor KI dauerhaft in Website-, Kunden- oder Backoffice-Prozesse eingebaut wird.
Warum KI-TOMs anders sind als normale Tool-Prüfungen
Ein klassisches SaaS-Tool verarbeitet meist klar definierte Daten in klaren Masken. KI-Systeme sind offener. Nutzer können Freitexte eingeben, Dateien hochladen, personenbezogene Daten kopieren oder vertrauliche Informationen in Prompts schreiben. Auch Ausgaben sind nicht immer vorhersehbar. Deshalb reicht eine übliche Toolfreigabe oft nicht aus.
Die DSK-Orientierungshilfe zu KI und Datenschutz sowie die BfDI-Handreichung zu Datenschutz und KI zeigen, dass Datenschutz in KI-Projekten früh mitgedacht werden muss. Für Unternehmen heißt das: Nicht nur das Modell ist relevant, sondern der gesamte Nutzungskontext. Ein interner Textassistent hat andere Risiken als ein Website-Chatbot mit Kundendaten oder ein System zur Bewerberauswertung.
Datenminimierung beginnt beim Prompt
Viele Risiken entstehen, weil Mitarbeitende zu viele Informationen in KI-Systeme eingeben. Kundennamen, Vertragsdaten, Gesundheitsinformationen, Bewerbungen, interne Strategien oder Supportfälle landen schnell im Prompt. Deshalb braucht jedes KI-System klare Eingaberegeln. Welche Daten sind erlaubt? Welche Daten müssen anonymisiert oder pseudonymisiert werden? Welche Daten sind verboten?
Praktisch helfen Prompt-Hinweise, Schulungen und technische Schranken. Wenn möglich, sollten Systeme personenbezogene Daten vor der Verarbeitung reduzieren. Bei RAG-Chatbots oder internen Wissenssystemen sollten nur notwendige Quellen angebunden werden. Der Beitrag zu RAG-Chatbots und Datenschutz zeigt, warum die Auswahl der Wissensbasis ein zentraler Datenschutzpunkt ist.
Modell, Anwendung und Datenquelle getrennt betrachten
In KI-Projekten wird häufig alles in einen Topf geworfen: das Modell, die Anwendung, die Datenquelle und der Geschäftsprozess. Für Datenschutz-TOMs ist diese Trennung wichtig. Das Modell kann von einem Anbieter stammen, die Anwendung von einem anderen, die Datenquelle aus dem eigenen CRM und der Betrieb aus einer Cloud-Umgebung. Jede Ebene braucht eigene Kontrollen.
Ein praktischer KI-Steckbrief sollte deshalb nicht nur den Toolnamen enthalten. Er sollte beschreiben, welche Datenquellen angebunden sind, welche Schnittstellen genutzt werden, ob Daten gespeichert werden, ob Ausgaben in andere Systeme zurückgeschrieben werden und wer fachlich verantwortlich ist. Erst dann lässt sich beurteilen, welche TOMs wirklich greifen müssen.
Zugriff und Rollen begrenzen
Nicht jede Person im Unternehmen braucht Zugriff auf jedes KI-System. Besonders kritisch sind Systeme, die Kundendaten, interne Dokumente, Bewerbungen oder Supporthistorien verarbeiten. Rollen sollten daher nach Aufgabe vergeben werden: Nutzer, Prüfer, Administrator, Datenschutzverantwortliche, technischer Betreiber. Geteilte Accounts sind ungeeignet, weil sie Kontrolle und Nachvollziehbarkeit erschweren.
Auch Integrationen brauchen Rollenlogik. Wenn ein KI-Tool auf Drive, CRM, Ticketsystem oder Website-Daten zugreifen kann, muss der Zugriff auf die tatsächlich notwendigen Quellen begrenzt werden. Sonst wird ein einzelnes Tool zum Querschnittszugang für Daten, die fachlich gar nicht zusammengehören.
Protokollierung mit Augenmaß
KI-Systeme sollten nachvollziehbar betrieben werden. Dafür braucht es Protokolle: wer hat wann welche Funktion genutzt, welche Datenquellen wurden abgefragt, welche Fehler traten auf, welche administrativen Änderungen wurden vorgenommen? Gleichzeitig dürfen Protokolle nicht selbst zum Datenschutzproblem werden. Vollständige Prompt-Inhalte dauerhaft zu speichern, kann riskant sein, wenn dort personenbezogene oder vertrauliche Daten stehen.
Eine gute TOM trennt daher Betriebsprotokolle von Inhaltsprotokollen. Für Sicherheit und Missbrauchserkennung reichen oft Metadaten, Rollen, Zeitpunkte und technische Ereignisse. Wenn Inhalte gespeichert werden müssen, braucht es klare Zwecke, Zugriffsbeschränkungen und Löschfristen.
Anbieter und Auftragsverarbeitung prüfen
KI-Projekte nutzen häufig externe Dienste: Modellanbieter, Cloud-Infrastruktur, Vektor-Datenbanken, Monitoring, Prompt-Management oder Übersetzungsdienste. Unternehmen sollten klären, welche Anbieter beteiligt sind, welche Rolle sie haben, wo Daten verarbeitet werden und ob ein Auftragsverarbeitungsvertrag oder andere Regelungen erforderlich sind.
Besonders wichtig ist die Frage, ob Eingaben oder Ausgaben zum Training oder zur Produktverbesserung verwendet werden. Manche Dienste bieten Unternehmenseinstellungen, die Training ausschließen oder Datenaufbewahrung begrenzen. Diese Einstellungen sollten dokumentiert und regelmäßig geprüft werden. Eine mündliche Annahme aus dem Vertriebsgespräch reicht nicht.
Menschliche Kontrolle bleibt Teil des Systems
KI-Ausgaben können falsch, unvollständig oder veraltet sein. Bei personenbezogenen Daten, Rechtsinformationen, Bewerbungen, Kundenkommunikation oder wichtigen Geschäftsentscheidungen braucht es menschliche Kontrolle. Diese Kontrolle muss nicht nur im Handbuch stehen, sondern im Prozess eingebaut sein. Wer prüft Antworten? Wann darf eine Ausgabe direkt verwendet werden? Wann ist Freigabe nötig?
Der AI Act verstärkt den Blick auf Risikomanagement und Transparenz, auch wenn nicht jedes Unternehmens-KI-Tool ein Hochrisiko-System ist. Der AdSimple-Beitrag zu Hochrisiko-KI nach AI Act zeigt, warum eine Inventur der eingesetzten KI-Systeme der erste Schritt bleibt.
Lösch- und Korrekturprozesse planen
Wenn KI-Systeme personenbezogene Daten verarbeiten, müssen Löschung, Berichtigung und Auskunft praktisch möglich bleiben. Das ist bei einfachen Tools schon anspruchsvoll, bei KI-Systemen mit Logs, Vektordatenbanken, Caches und angebundenen Quellen noch mehr. Unternehmen sollten wissen, wo Daten landen und wie sie wieder entfernt oder aktualisiert werden können.
Bei RAG-Systemen ist oft nicht das Modell selbst das Hauptproblem, sondern die angebundene Wissensbasis. Wenn dort veraltete Kundendaten, ehemalige Mitarbeitende oder alte Dokumente liegen, kann das System falsche oder nicht mehr zulässige Informationen ausgeben. Datenpflege wird damit Teil der KI-TOMs.
Schulung und Nutzungsregeln
Technische Kontrollen reichen nicht, wenn Mitarbeitende nicht wissen, was erlaubt ist. Eine kurze KI-Nutzungsrichtlinie sollte erklären, welche Tools freigegeben sind, welche Daten nicht eingegeben werden dürfen, wie Ergebnisse geprüft werden und wer bei Unsicherheit gefragt wird. Diese Richtlinie sollte praxisnah sein, nicht nur juristisch.
Gute Schulungen arbeiten mit Beispielen: Darf ein Supportticket in ein KI-Tool kopiert werden? Darf eine Bewerbung zusammengefasst werden? Darf ein Kundenvertrag übersetzt werden? Was passiert mit Screenshots? Solche Alltagssituationen entscheiden, ob Datenschutz im KI-Einsatz funktioniert.
Tests vor dem Livebetrieb dokumentieren
Bevor ein KI-System produktiv genutzt wird, sollte es mit Testfällen geprüft werden. Dazu gehören fachliche Qualität, Datenschutz, Berechtigungen, Protokolle, Fehlersituationen und menschliche Freigabe. Für Website-Chatbots sollte zusätzlich getestet werden, ob das System personenbezogene Daten abfragt, falsche Rechtsauskünfte gibt oder interne Inhalte preisgibt.
Diese Tests müssen nicht riesig sein, aber sie sollten dokumentiert werden. Wer später erklären muss, warum ein KI-System freigegeben wurde, braucht mehr als eine mündliche Einschätzung. Ein kurzer Testbericht mit Risiken, offenen Punkten und Freigabeentscheidung reicht für viele KMU bereits aus. Wichtig ist Wiederholbarkeit über mehrere Versionen.
Ein schlanker Prüfablauf für KMU
Starten Sie mit einer KI-Inventur. Welche Systeme werden genutzt, offiziell oder inoffiziell? Danach folgt die Zweckprüfung: Wofür wird das System eingesetzt? Dann die Datenprüfung: Welche personenbezogenen Daten können betroffen sein? Anschließend Anbieter, Rollen, Protokolle, Löschfristen, menschliche Kontrolle und Schulung.
Das Ergebnis muss kein schweres Compliance-Handbuch sein. Für viele KMU reicht ein KI-Steckbrief pro System mit Ampelbewertung und Maßnahmenliste. Wichtig ist, dass die Entscheidung dokumentiert ist und regelmäßig aktualisiert wird, wenn neue Funktionen, Datenquellen oder Anbieter hinzukommen.
Fazit: KI-Datenschutz wird im Betrieb entschieden
KI-Systeme werden nicht durch einen einmaligen Toolcheck sicher. Entscheidend sind laufende TOMs: Datenminimierung, Zugriff, Protokollierung, Anbieterprüfung, menschliche Kontrolle, Löschung und Schulung. Wer diese Punkte früh klärt, kann KI produktiv nutzen, ohne Datenschutz nur hinterher zu reparieren.
Der beste nächste Schritt ist eine einfache Liste aller KI-Tools im Unternehmen. Markieren Sie, wo personenbezogene Daten möglich sind, und definieren Sie pro System drei konkrete Schutzmaßnahmen. So wird aus KI-Begeisterung ein belastbarer Betriebsprozess.
