ChatGPT, Claude und Gemini sind im Betrieb nützlich — aber nicht für das, wofür sie am häufigsten ausprobiert werden. Sie sind stark beim Umformen von Material, das Sie mitliefern, und schwach als Auskunftsquelle. Wer das einmal getrennt hat, spart Zeit statt sie zu verlieren.
Und es gibt eine Frage, die vor allen anderen kommt: Was darf überhaupt hinein?
Wofür es zuverlässig taugt
- Umformulieren und kürzen. Eine mühsam formulierte E-Mail freundlicher machen, einen langen Text auf eine halbe Seite bringen, Fachchinesisch in Kundendeutsch übersetzen.
- Zusammenfassen von Material, das Sie mitgeben. Ein zehnseitiges Angebot, ein Protokoll, eine Bedienungsanleitung.
- Der leeren Seite entkommen. Ein erster Entwurf ist in dreißig Sekunden da, und ihn zu überarbeiten ist leichter, als anzufangen.
- Strukturieren. Aus wirren Notizen eine Gliederung, aus einer Aufgabenliste eine Reihenfolge.
- Erklären lassen. Ein Fachbegriff, ein Vertragsabschnitt, eine Fehlermeldung — als Einstieg, nicht als letzte Auskunft.
- Gegenlesen. „Was fehlt in diesem Angebot?“ liefert oft brauchbare Hinweise, auch wenn nicht jeder zutrifft.
Wofür es nicht taugt
- Als Nachschlagewerk für Fakten. Dazu gleich mehr — das ist der teuerste Irrtum.
- Zum Rechnen. Die Anbieter lagern Rechnen, Zählen und Kalkulationen selbst an ein Werkzeug aus, das echten Code ausführt. Ohne ein solches Werkzeug ist jede Zahl eine Schätzung, die richtig aussieht. Prüfen Sie jede Summe, die Sie weitergeben.
- Für rechtliche, steuerliche oder medizinische Auskünfte. Die Anbieter schreiben das in ihre eigenen Hinweise. Für ein erstes Verständnis taugt es; als Grundlage einer Entscheidung nicht.
- Für alles, was ungeprüft hinausgeht. Der Text trägt Ihren Namen, nicht den des Anbieters.
Was hineindarf — und was nicht
Das ist der Teil, den Betriebe unterschätzen. Vorab: Ob Sie personenbezogene Daten verarbeiten dürfen, ist eine Rechtsfrage und gehört in fachkundige Hände. Was hier steht, ist die technische Grundlage dafür — das, was die Anbieter selbst dokumentieren.
Die kurze Fassung: In den kostenlosen und privaten Fassungen haben Kundendaten, Personaldaten und Geschäftsgeheimnisse nichts verloren. Der Grund ist nicht Panikmache, sondern steht in den Bedingungen:
| Privat- oder Gratisversion | Geschäftsversion | |
|---|---|---|
| ChatGPT | Training ist voreingestellt, abschaltbar | Kein Training ab ChatGPT Business |
| Claude | Training, sofern nicht widersprochen | Kein Training ab Claude Team |
| Gemini | Training voreingestellt, inklusive Prüfung durch Menschen | Kein Training außerhalb Ihrer Domain |
Hinzu kommt der Punkt, der die Entscheidung für einen Betrieb eigentlich trifft: Für die privaten Fassungen bietet keiner der drei Anbieter einen Auftragsverarbeitungsvertrag an. Den gibt es bei OpenAI ab ChatGPT Business, bei Anthropic ab Claude Team und bei Google mit jedem Workspace-Tarif.
Das ist in der Gemini-Hilfe offen dokumentiert, und zwei Details daran sind wichtig: Diese geprüften Unterhaltungen werden bis zu drei Jahre aufbewahrt, und sie werden nicht gelöscht, wenn Sie Ihre Aktivitäten löschen. Google schreibt dazu selbst, man solle keine vertraulichen Informationen eingeben, die ein Prüfer nicht sehen soll. Deutlicher kann eine Warnung kaum ausfallen.
Das Training abschalten
Wenn Sie bei einer privaten Fassung bleiben, schalten Sie es wenigstens ab. Der Weg ist überall ähnlich:
- ChatGPT: Einstellungen → Datenkontrollen → den Schalter zum Verbessern der Modelle ausschalten.
- Claude: Einstellungen → Datenschutz → den Schalter zur Modellverbesserung ausschalten.
- Gemini: In der App unter „Aktivitäten“ die Speicherung abschalten, wahlweise mit Löschen des Bisherigen.
Drei Dinge, die dabei gern übersehen werden. Erstens wirkt das Abschalten nur nach vorn — was schon in einem Trainingslauf steckt, kommt nicht zurück. Zweitens löscht es nichts: Ihre bisherigen Unterhaltungen bleiben stehen, bis Sie sie selbst löschen. Und drittens der unangenehmste Fallstrick: Bei OpenAI hebelt ein Daumen hoch oder runter den Widerspruch für diese Unterhaltung aus — wer Rückmeldung gibt, gibt die ganze Unterhaltung frei.
Gelöschte Unterhaltungen verschwinden bei allen dreien binnen rund 30 Tagen endgültig. Für einmalige, heiklere Fragen gibt es außerdem den vorübergehenden Chat, der nicht im Verlauf landet und nicht fürs Training verwendet wird.
Wo die Daten liegen
Für Betriebe, die auf eine Speicherung in Europa angewiesen sind, unterscheiden sich die drei deutlich, und das ist ein harter Auswahlfaktor:
- Google bietet als einziger eine wählbare Datenregion Europa, die Gemini ausdrücklich einschließt — allerdings erst ab dem Tarif Business Standard und nur für Geschäftskonten.
- OpenAI bietet Speicherung in Europa nur für neu eingerichtete Enterprise- und Edu-Arbeitsbereiche sowie für die Programmierschnittstelle, nicht für die üblichen Tarife.
- Anthropic bietet das für Claude derzeit nicht an. In der eigenen Dokumentation steht unmissverständlich, dass die Daten in den USA gespeichert werden.
Das ist keine Aussage über die Qualität der Modelle, sondern über den Rahmen. Welcher Anbieter für Sie in Frage kommt, entscheidet sich oft an dieser Zeile und nicht an der Antwortqualität.
Der teuerste Irrtum: es als Auskunftsquelle zu nutzen
Diese Systeme geben auch dann eine Antwort, wenn sie die Sache nicht wissen, und sie klingt genauso überzeugt wie eine richtige. OpenAI hat dazu selbst eine Untersuchung veröffentlicht: Die üblichen Bewertungsverfahren belohnen Raten gegenüber dem Eingeständnis von Unwissen — Modelle sind darauf optimiert, gute Prüflinge zu sein, und wer bei Unsicherheit rät, schneidet in Tests besser ab.
Wie groß der Unterschied sein kann, zeigt OpenAIs eigenes Beispiel: Zwei Modelle lagen bei der Trefferquote fast gleichauf (22 gegenüber 24 Prozent), doch das eine gab in gut der Hälfte der Fälle zu, die Antwort nicht zu kennen, das andere fast nie — und lag deshalb in 75 statt in 26 Prozent der Fälle falsch, statt sich zu enthalten. Die Trefferquote allein sagt also wenig darüber, wie oft man angeflunkert wird.
Die praktische Folge ist einfach: Geben Sie das Material mit, statt danach zu fragen. Nicht „Was steht in der Handwerkerverordnung zu X“, sondern den Text einfügen und daraus arbeiten lassen. Und lassen Sie sich Unsicherheiten markieren — dazu mehr im Beitrag Richtig prompten.
Die Pflicht, die fast niemand kennt
Aus der europäischen KI-Verordnung gilt seit Februar 2025 eine Vorgabe, die jeden Betrieb trifft, der KI-Werkzeuge einsetzt — unabhängig von Branche und Größe, und ausdrücklich auch dann, wenn es sich nur um einen Chatbot für Werbetexte handelt. Sie besagt, dass Sie Maßnahmen ergreifen müssen, um die KI-Kompetenz der Menschen zu unterstützen, die in Ihrem Auftrag mit diesen Systemen arbeiten.
Im Juli 2026 wurde der Wortlaut entschärft: Aus „nach besten Kräften sicherstellen“ wurde „die Entwicklung unterstützen“, und es ist ausdrücklich kein bestimmtes Kompetenzniveau zu garantieren. Die Pflicht selbst besteht unverändert weiter. Achten Sie beim Nachlesen auf das Datum — mehrere offizielle Seiten zeigen noch die alte, strengere Fassung.
Was das praktisch heißt, hat die EU-Kommission in ihren Fragen und Antworten an genau diesem Beispiel beantwortet: Wenn Mitarbeitende ChatGPT zum Verfassen von Werbetexten nutzen, gilt die Vorgabe — und die Beschäftigten sollten über die besonderen Risiken informiert sein, ausdrücklich genannt werden erfundene Angaben.
Die Bundesnetzagentur, die in Deutschland dafür zuständig ist, stellt klar: Es braucht keine Zertifizierung, keine formalisierten Schulungen, kein garantiertes Kompetenzniveau und keinen KI-Beauftragten. Eine Unterweisung, die erklärt, was die Werkzeuge können, wo sie irren und was nicht eingegeben werden darf, genügt — die Behörde empfiehlt allerdings, die Maßnahmen zu dokumentieren, weil ein Mangel an KI-Kompetenz im Schadensfall als Verletzung der Sorgfaltspflicht gewertet werden kann. Für die rein private Nutzung gilt das alles nicht.
Was die Aufsichtsbehörden empfehlen
Die deutschen Datenschutzbehörden haben dazu Handreichungen veröffentlicht. Sie sind rechtlich nicht bindend, geben aber wieder, wie die Aufsicht die geltenden Regeln auslegt — wer davon abweicht, muss das begründen können. Vier Punkte kehren überall wieder:
- Eine schriftliche Regelung. Die Datenschutzkonferenz formuliert unverblümt, dass ohne klare Vorgaben Beschäftigte solche Werkzeuge eigenmächtig nutzen, und hält das für die Realität in vielen Betrieben. Die Hamburger Aufsicht weist darauf hin, dass für dieses Handeln unter Umständen der Arbeitgeber haftet.
- Dienstliche Zugänge statt privater. Empfohlen werden Funktionskonten, die nicht auf einzelne Beschäftigte lauten — und keine private Nutzung dienstlicher Zugänge.
- Anonymisieren reicht oft nicht. Namen zu entfernen genügt nicht, wenn die Person daraus erschließbar bleibt; das Beispiel der Aufsicht ist ein Arbeitszeugnis für „einen Kundenberater im Autohaus X“. Und selbst eine Eingabe ohne Personenbezug kann eine Ausgabe mit Personenbezug erzeugen.
- Kein Automatismus bei Entscheidungen über Menschen. Eine Auswahl, die ein System selbstständig trifft — etwa welche Bewerbung eine Einladung bekommt —, ist unzulässig, und eine nur formale Beteiligung eines Menschen ändert daran nichts.
Das BSI ergänzt das um zwei nüchterne Sätze, die man sich merken sollte. Erstens: Man sollte grundsätzlich annehmen, dass alle Informationen, auf die ein solches Modell Zugriff hat, abgegriffen werden können. Und zweitens zur Gefahr, dass versteckte Anweisungen in Dokumenten oder Webseiten ein Modell umsteuern: Nach aktuellem Stand der Technik gibt es keine Möglichkeit, das vollständig und zuverlässig zu unterbinden.
Ob Ihr konkreter Einsatz zulässig ist, ist damit nicht beantwortet — das ist eine Rechtsfrage und gehört fachkundig geklärt. Die Handreichungen sagen Ihnen aber ziemlich genau, welche Fragen Sie dabei stellen müssen.
Wie Sie im Betrieb damit anfangen
- Einen Anwendungsfall wählen, der oft vorkommt und nicht heikel ist. Angebotstexte, Antworten auf wiederkehrende Kundenfragen, Zusammenfassungen von Besprechungen.
- Eine Regel aufschreiben, was nicht hineindarf. Ein Satz genügt: keine Kundennamen, keine Personaldaten, keine Preise aus laufenden Verhandlungen, keine Zugangsdaten. Diese Regel ist wichtiger als jedes Werkzeug.
- Vorlagen statt Einzelfragen. Wenn eine Anweisung gut funktioniert, speichern Sie sie und setzen künftig nur noch den Einzelfall ein.
- Eine feste Prüfung vor dem Versand. Alles, was hinausgeht, liest ein Mensch. Zahlen, Namen und Zusagen werden gegengeprüft.
- Wenn es sich bewährt, auf einen Geschäftstarif wechseln. Damit bekommen Sie den Auftragsverarbeitungsvertrag, die Zusage, dass nicht trainiert wird, und eine Verwaltung der Zugänge. Das ist der Punkt, an dem aus Ausprobieren betrieblicher Einsatz wird.
Stand: 2026-09-22. Die Angaben habe ich zu diesem Zeitpunkt anhand der Dokumentation der jeweiligen Hersteller geprüft. Anbieter ändern Adressen, Bezeichnungen und Menüwege ohne Ankündigung; prüfen Sie im Zweifel die Angaben Ihres Anbieters. Wer an fremden Systemen arbeitet, braucht die Erlaubnis des Betreibers.