Bevor ein Tool ausgewählt wird, muss eine Frage beantwortet sein, die in den meisten Unternehmen übersprungen wird: Welche Arbeit will ich womit beschleunigen, und welche Arbeit darf ich damit überhaupt beschleunigen? Die erste Frage ist strategisch. Die zweite ist rechtlich. Beide werden in der Praxis fast immer ignoriert, zugunsten eines dritten, viel bequemeren Impulses: einfach mal ausprobieren, was passiert, wenn man Daten reinwirft.
Genau da beginnt das Problem.
Der Klassiker: Ausprobieren statt Zieldefinition
Ohne klares Ziel füttern Mitarbeitende ein Sprachmodell mit Daten, einfach um zu sehen, was dabei herauskommt. Kein definierter Zweck, keine Abgrenzung, was rein darf und was nicht. Das Ergebnis ist selten ein Effizienzgewinn, meistens ein Kontrollverlust. In Unternehmen mit tausend Mitarbeitenden nutzt ein erheblicher Teil der Wissensarbeiter täglich kostenlose KI-Tools wie ChatGPT, Claude oder Gemini, ohne dass IT oder Datenschutzabteilung davon wissen. Keine Rebellion, einfach der Wunsch, schneller fertig zu werden. E-Mail-Entwürfe mit internen Diskussionen, Namen und Positionen. Kundenlisten und CRM-Daten für Kampagnen. Alles wandert unkontrolliert in Systeme, deren Datenverarbeitung niemand geprüft hat.
Ein konkretes Beispiel aus der Praxis: Eine europäische Bank testete ChatGPT für den Kundensupport und ließ dabei zwölftausend E-Mails mit personenbezogenen Daten in ein Training-Set einfließen. Kein böser Wille, sondern fehlende Vorabklärung: Was darf verarbeitet werden, wo, und zu welchem Zweck.
Die zweite Falle: „Enterprise“ wird mit „geschlossen“ verwechselt
Der Begriff Enterprise klingt nach Sicherheit. Nach Kontrolle, nach einem Vertrag, der schon alles regelt. In der Praxis entscheidet aber nicht der Produktname, sondern das Kleingedruckte: Vertragsmodell, Tenant-Einstellungen, Aufbewahrungsfristen, Zugriffsrechte, Protokollierung, und die Frage, welche internen Systeme überhaupt angebunden werden. Enterprise-Datenschutz ist kein Zustand, den man mit dem Kauf einer Lizenz automatisch erhält. Er ist eine Prüfliste, die man selbst abarbeiten muss.
Selbst wenn ein Anbieter zusichert, dass Kundendaten standardmäßig nicht ins Training fließen: Bei manchen Enterprise- und Plus-Varianten werden Eingaben trotzdem von Mitarbeitenden des Anbieters zur Qualitätskontrolle gesichtet. Die private, kostenlose Version desselben Anbieters trainiert unter Umständen ganz offen mit den Eingaben, während parallel im selben Unternehmen die Enterprise-Lizenz als vermeintlich sicherer Standard gilt, nur eben nicht von allen genutzt wird. Ein großer Markenname an eine Lösung zu hängen macht aus einem cloudbasierten, extern kontrollierten System kein geschlossenes System. Es bleibt ein Vertrauensverhältnis zu einem Dritten, der die Bedingungen diktiert, nicht das Unternehmen selbst.
Dazu kommt die Standortfrage. Selbst bei europäischem Hosting bleibt ein US-Anbieter dem CLOUD Act unterworfen, der unter bestimmten Voraussetzungen US-Behörden Zugriff auf Daten erlaubt, unabhängig davon, wo der Server physisch steht. Das ist kein theoretisches Risiko, sondern ein struktureller Konflikt zwischen US-Recht und DSGVO, den keine Marketingfolie auflöst.
Was die DSGVO tatsächlich verlangt
Artikel 5 Absatz 1 lit. c DSGVO fordert Datenminimierung: Es dürfen nur die Daten verarbeitet werden, die für den Zweck tatsächlich notwendig sind. Die verbreitete Praxis, einem Modell „den ganzen Kontext“ zu geben, weil das bequemer ist, widerspricht diesem Grundsatz direkt. Wer ein ganzes Dokument in ein Sprachmodell kopiert, obwohl nur ein Absatz relevant wäre, verarbeitet mehr, als er darf, nicht nur mehr, als er müsste.
Klare Empfehlungen
Ziel zuerst, Tool danach. Bevor irgendein KI-Tool zum Einsatz kommt, steht die Frage: Welcher konkrete Arbeitsschritt soll beschleunigt werden, mit welchem messbaren Ergebnis. Ohne diese Antwort ist jede Toolwahl Zufall.
Datenklassifizierung vor Dateneingabe. Jedes Unternehmen sollte für sich definieren, welche Datenkategorien überhaupt extern verarbeitet werden dürfen: unkritische Texte, ja. Kundendaten, Gesundheitsdaten, Verträge, Löhne, Strategiepapiere, nein, außer in einem geprüften, geschlossenen Rahmen.
Enterprise-Label nicht als Freibrief nehmen. Vertrag, Auftragsverarbeitungsvereinbarung, Aufbewahrungsfristen und Serverstandort prüfen, bevor eine Lizenz unternehmensweit ausgerollt wird. Und regelmäßig nachprüfen, denn Anbieter ändern Bedingungen.
Schatten-KI sichtbar machen. Wenn Mitarbeitende ohnehin kostenlose Tools nutzen, weil es keine freigegebene Alternative gibt, ist das kein Disziplinproblem, sondern ein Führungsversäumnis. Eine klare, freigegebene Lösung schlägt jedes Verbot.
Geschlossene Systeme dort einsetzen, wo es zählt. Für sensible Bereiche wie Kanzleien, Hausverwaltungen oder Ordinationen ist die einzig saubere Lösung ein System, das nachweislich nicht mit externen LLMs kommuniziert und dessen Datenverarbeitung vollständig im eigenen oder europäischen Hoheitsbereich bleibt. Nicht als Kompromiss, sondern als Voraussetzung.
Zieldefinition ist kein Papierkram, der die eigentliche Arbeit verzögert. Sie ist die eigentliche Arbeit. Alles andere ist Prompten ohne Plan, und das war schon Thema des letzten Beitrags.
Teil 2 der Serie „KI – jo eh“. Im nächsten Beitrag: Datenstrategie als Vorarbeit, wie man den eigenen Datenbestand überhaupt erst KI-tauglich macht.