Datenschutz bei KI-Tools beachten

In vielen Betrieben wird der Datenschutz bei KI-Tools erst dann zum Thema, wenn etwas passiert ist: Ein Mitarbeiter hat Kundendaten in ein Übersetzungstool kopiert, ein Meeting-Assistent hat ungefragt an einer vertraulichen Besprechung teilgenommen, oder eine Bewerbung wurde komplett von einem Chatbot formuliert – inklusive aller persönlichen Angaben. Dabei lässt sich das Thema mit überschaubarem Aufwand in den Griff bekommen. Dieser Artikel zeigt, in welcher Reihenfolge Sie vorgehen, welche Fragen Sie Anbietern stellen sollten und woran Sie erkennen, dass Ihre Regeln nicht funktionieren.

Warum KI-Tools ein eigenes Datenschutzthema sind

Bei klassischer Software ist meist klar, wo Daten liegen: auf dem eigenen Server oder bei einem Hoster, mit dem ein Vertrag besteht. KI-Dienste funktionieren anders. Jede Eingabe wandert an die Systeme des Anbieters, wird dort verarbeitet und häufig zumindest zeitweise gespeichert. Manche Anbieter nutzen Eingaben zusätzlich, um ihre Modelle weiterzutrainieren – ob das geschieht, hängt vom Anbieter und oft davon ab, ob eine Privat- oder eine Geschäftsversion genutzt wird.

Sobald in einer Eingabe personenbezogene Daten stecken – Namen, E-Mail-Inhalte, Kundennummern, Personaldaten –, liegt eine Verarbeitung im Sinne der Datenschutz-Grundverordnung vor. Dann gelten die gleichen Pflichten wie bei jeder anderen Software: Rechtsgrundlage, Transparenz, Vertrag mit dem Dienstleister, Eintrag ins Verarbeitungsverzeichnis. Hinzu kommt ein zweites Risiko, das kein Datenschutzproblem im engen Sinn ist, aber mindestens so wehtut: der Abfluss von Know-how. Angebote, Kalkulationen, Quellcode oder Strategiepapiere gehören nicht ungeprüft in fremde Systeme.

Schritt 1: Aufnehmen, was tatsächlich genutzt wird

Bevor Sie Regeln aufstellen, brauchen Sie ein ehrliches Bild der Lage. Fragen Sie in den Abteilungen nach, nicht nur in der IT. Erfahrungsgemäß nutzen Mitarbeiter mehr Werkzeuge, als offiziell bekannt ist: Textassistenten im Browser, Übersetzungsdienste, Transkriptions-Apps, Bildgeneratoren, Notizprogramme mit eingebauter KI. Ergänzen Sie die Befragung durch technische Auswertungen, etwa die Protokolle der Firewall oder des Webfilters und die Liste installierter Browser-Erweiterungen.

Besonders kritisch sind Meeting-Assistenten, die sich automatisch zu Videokonferenzen dazuschalten. Sie zeichnen nicht nur Ihre Mitarbeiter auf, sondern auch Kunden und Bewerber – und die haben der Aufzeichnung nicht zugestimmt. Solche Werkzeuge gehören ganz oben auf die Prüfliste.

Schritt 2: Daten klassifizieren und Freigaben ableiten

Ein pauschales Verbot funktioniert in der Praxis selten; eine pauschale Freigabe ist fahrlässig. Der Ausweg ist eine einfache Klassifizierung. Teilen Sie Ihre Daten in wenige Kategorien ein, zum Beispiel:

• Öffentlich: bereits veröffentlichte Texte, allgemeine Informationen.
• Intern: Arbeitsanweisungen, interne Konzepte ohne Personenbezug.
• Vertraulich: Kundendaten, Personaldaten, Angebote, Verträge.
• Besonders schützenswert: Gesundheitsdaten, Betriebs- und Geschäftsgeheimnisse, Informationen mit Geheimhaltungsvereinbarung.

Für jede Kategorie legen Sie fest, ob und in welche Werkzeuge sie eingegeben werden darf. Öffentliche Inhalte können in der Regel überall verarbeitet werden. Vertrauliche Daten nur in geprüften Werkzeugen mit Vertrag. Besonders schützenswerte Daten gar nicht oder nur in dafür freigegebenen, besonders abgesicherten Lösungen. Aus der abstrakten Frage „Dürfen wir KI nutzen?“ wird so eine konkrete Antwort pro Fall.

Schritt 3: Den Anbieter richtig befragen

Bevor ein Werkzeug freigegeben wird, sollte der Anbieter schriftlich beantworten:

• Werden Eingaben zum Training der Modelle verwendet, und lässt sich das vertraglich ausschließen?
• An welchen Standorten werden die Daten verarbeitet und gespeichert – innerhalb der Europäischen Union oder in Drittländern?
• Gibt es einen Vertrag zur Auftragsverarbeitung, und welche Unterauftragsverarbeiter werden eingesetzt?
• Wie lange werden Eingaben aufbewahrt, und wie lassen sie sich vollständig löschen?
• Welche Sicherheitsmaßnahmen sind dokumentiert, etwa Verschlüsselung, Zugriffskonzepte und unabhängige Prüfnachweise?
• Unterscheidet sich die angebotene Geschäftsversion von der Privatversion, insbesondere beim Umgang mit Eingaben?

Wer auf diese Fragen keine klaren Antworten liefert oder auf allgemeine Marketingaussagen verweist, kommt für vertrauliche Daten nicht infrage. Bei großen Anbietern wie Microsoft oder OpenAI lassen sich die Antworten in den jeweiligen Vertrags- und Datenschutzdokumenten nachlesen; bei kleineren Anbietern lohnt die direkte Nachfrage umso mehr.

Rechtliche Grundlagen knapp eingeordnet

Die Datenschutz-Grundverordnung gilt auch für KI-Werkzeuge; es gibt keinen Freibrief für neue Technik. Drei Punkte sind in der Praxis am häufigsten relevant. Erstens braucht die Verarbeitung personenbezogener Daten eine Rechtsgrundlage – bei der Arbeit mit Kundendaten ist das meist die Vertragserfüllung oder ein berechtigtes Interesse, das Sie dokumentieren sollten. Zweitens ist mit dem Anbieter ein Vertrag zur Auftragsverarbeitung abzuschließen, sofern er Daten in Ihrem Auftrag verarbeitet. Drittens kann bei systematischer oder umfangreicher Nutzung eine Datenschutz-Folgenabschätzung erforderlich werden, etwa wenn KI-Systeme Entscheidungen über Menschen vorbereiten.

Hinzu kommt die europäische KI-Verordnung. Sie richtet sich vor allem an Anbieter, enthält aber auch Pflichten für Unternehmen, die KI-Systeme einsetzen – etwa Transparenzanforderungen, wenn Menschen mit einem KI-System interagieren, und die Anforderung, dass Beschäftigte, die mit KI arbeiten, über ausreichende KI-Kompetenz verfügen. Schulung ist damit nicht nur sinnvoll, sondern teilweise vorgeschrieben.

Schritt 4: Regeln für den Alltag festlegen

Halten Sie die Ergebnisse in einer kurzen, verständlichen Richtlinie fest – eine Seite genügt meist. Sie sollte beantworten: Welche Werkzeuge sind freigegeben? Welche Datenkategorien dürfen wohin? Dürfen private Konten für Arbeitszwecke genutzt werden? Die Antwort auf die letzte Frage sollte Nein lauten. Und: Wer entscheidet über neue Werkzeuge?

Untersetzen Sie die Richtlinie technisch, wo es geht: Geschäftskonten statt Privatkonten, Anmeldung über das zentrale Benutzerverzeichnis, Sperrung nicht freigegebener Dienste auf Firmengeräten. Und schulen Sie Ihre Mitarbeiter kurz und praxisnah – nicht mit Paragraphen, sondern mit Beispielen aus ihrem Alltag: Darf ich diese Kunden-E-Mail zusammenfassen lassen? Darf ich diesen Vertrag gegenlesen lassen? Wer einmal verstanden hat, warum die Antwort manchmal Nein lautet, hält sich eher an Regeln.

Wer im Unternehmen zuständig ist

Die Gesamtverantwortung liegt bei der Geschäftsführung; sie lässt sich nicht an einen Anbieter delegieren. Konkret sollte eine benannte Person die Freigabeliste der Werkzeuge pflegen und Anfragen der Mitarbeiter beantworten – in kleineren Betrieben ist das oft die IT-Verantwortliche oder der Geschäftsführer selbst. Beratend kommt der Datenschutzbeauftragte hinzu. In Deutschland müssen Unternehmen einen solchen bestellen, sobald in der Regel mindestens zwanzig Beschäftigte ständig mit der automatisierten Verarbeitung personenbezogener Daten befasst sind – eine Schwelle, die viele Betriebe dieser Größenordnung bereits erreichen. Ein externer IT-Dienstleister kann die technische Umsetzung übernehmen, die inhaltliche Verantwortung bleibt jedoch im Unternehmen.

Woran Sie merken, dass etwas schiefläuft

Einige Warnsignale sollten Sie ernst nehmen: In Besprechungen tauchen plötzlich Notiz-Assistenten auf, die niemand freigegeben hat. Auf die Frage „Welche KI darf ich nutzen?“ bekommen Mitarbeiter keine Antwort und helfen sich selbst. Der Anbieter ändert seine Nutzungsbedingungen, und niemand liest die Änderung. Eingaben mit Personenbezug sind zur Routine geworden, ohne dass je ein Vertrag geprüft wurde. Und das deutlichste Signal: Auf die Frage „Wer ist bei uns für KI-Freigaben zuständig?“ gibt es Schulterzucken.

Wenn ein Vorfall passiert – etwa vertrauliche Daten in einem nicht freigegebenen Dienst –, dokumentieren Sie ihn, bewerten Sie das Risiko und ziehen Sie den Datenschutzbeauftragten hinzu. Verstecken ist die schlechteste Option.

Wann sich der Aufwand nicht lohnt

Nicht jede Nutzung rechtfertigt den vollen Prüfapparat. Wer gelegentlich öffentliche Texte umschreiben oder Ideen sammeln lässt, braucht keine Folgenabschätzung und kein monatelanges Anbieteraudit – eine kurze Richtlinie und ein freigegebenes Werkzeug reichen. Ebenso wenig lohnt für die meisten Betriebe mit zehn bis hundert Mitarbeitern der Eigenbetrieb offener KI-Modelle auf eigener Hardware: Anschaffung, Betrieb, Aktualisierung und die nötige Fachkenntnis stehen in keinem Verhältnis zum Nutzen, solange es keine zwingenden Gründe dafür gibt. Und ein Totalverbot lohnt sich schon gar nicht – es verlagert die Nutzung auf private Geräte, wo Sie jede Kontrolle verlieren. Maßvolle Regeln, die durchgesetzt werden, schlagen umfassende Regeln, die ignoriert werden, immer.

Fazit

Datenschutz bei KI-Tools ist kein einmaliges Projekt, sondern ein laufender Prozess aus vier Schritten: aufnehmen, was genutzt wird; Daten klassifizieren; Anbieter konkret befragen; kurze Regeln schreiben und schulen. Wer das einmal sauber aufsetzt, kann KI-Werkzeuge produktiv nutzen, ohne die Kontrolle über die eigenen Daten zu verlieren.

Dieser Artikel wurde KI-unterstützt erstellt und vor der Veröffentlichung geprüft.