Schatten-IT in Behörden: Wenn Beschäftigte heimlich ChatGPT nutzen

Wie verbreitet ist Schatten-KI?

Nach einer Umfrage von Bitkom unter 604 Unternehmen (veröffentlicht im Oktober 2025) gehen vier von zehn Unternehmen davon aus, dass Beschäftigte private KI-Zugänge für die Arbeit nutzen: In 8 Prozent ist das weit verbreitet, in 17 Prozent gibt es Einzelfälle, weitere 17 Prozent vermuten es. Zugleich stellte nur ein Viertel der Unternehmen selbst KI zur Verfügung. Für Behörden gibt es keine vergleichbare Erhebung. Der Mechanismus ist derselbe: Wer zuhause erlebt, wie schnell eine KI einen Brief entwirft, greift auch im Dienst danach, wenn es keine freigegebene Alternative gibt.

Welche Risiken entstehen?

• Datenschutz: Ohne Vertrag zur Auftragsverarbeitung (Art. 28 DSGVO) dürfen keine personenbezogenen Daten an einen Dienstleister gehen. Ein privates Konto hat keinen solchen Vertrag mit der Behörde.
• Training: Bei Verbraucherdiensten wie ChatGPT können Unterhaltungen standardmäßig zum Training verwendet werden, solange die Person nicht widerspricht. Bei den Geschäftsangeboten von OpenAI ist das Training nach dessen Angaben standardmäßig aus.
• Verschwiegenheit: Beamte und Tarifbeschäftigte sind zur Verschwiegenheit über dienstliche Angelegenheiten verpflichtet (§ 37 BeamtStG, § 3 TVöD). Für Amtsträger gilt zusätzlich § 203 Abs. 2 StGB. Amtsverschwiegenheit und KI →
• Nachvollziehbarkeit: Was in einem privaten Konto entsteht, fehlt in der Akte und im Protokoll der Behörde.
• Qualität: Antworten ohne Quelle werden ungeprüft übernommen, weil niemand die Nutzung offen ansprechen kann.

Warum helfen Verbote allein nicht?

Ein Verbot beseitigt den Bedarf nicht. Wer unter Zeitdruck viele Schreiben erstellen muss, sucht sich Hilfe, notfalls am privaten Telefon. Die Datenschutzkonferenz empfiehlt in ihrer Orientierungshilfe zu KI deshalb, KI beruflich nur über Geräte und Konten zu nutzen, die der Arbeitgeber bereitstellt, Einsatzzwecke in einer internen Richtlinie festzulegen und Beschäftigte zu schulen. Auch die Leitlinien des Bundes für den KI-Einsatz in der Bundesverwaltung unterscheiden, welche KI-Systeme für sensible dienstliche Daten freigegeben sind.

Wie bekommen Behörden Schatten-KI in den Griff?

1. Freigegebene Alternative bereitstellen, mit Vertrag zur Auftragsverarbeitung, Verarbeitung in der EU und ohne Training mit Behördendaten.
2. Dienstanweisung erlassen: Welche KI für welche Daten, wer Ergebnisse prüft, was in die Akte gehört. Kurz und verständlich.
3. Schulen: Art. 4 der KI-Verordnung verlangt seit Februar 2025 KI-Kompetenz. KI-Kompetenz nach Art. 4 →
4. Personalrat früh beteiligen: Eine KI-Plattform ist eine technische Einrichtung, die Verhalten erfassen kann. Muster-Vereinbarung und Ablauf →
5. Offen sprechen: Wer bisher private Konten genutzt hat, sollte das ohne Angst sagen können. Dann lässt sich klären, welche Daten betroffen waren.

Wie geht das mit basebox?

basebox ist eine freigegebene Alternative für die ganze Verwaltung: in unserer Cloud in Deutschland oder auf einem Server nur für Ihre Verwaltung, auf Wunsch ohne Internetverbindung. Der AVV nach Art. 28 DSGVO ist Teil des Vertrags, Ihre Daten trainieren kein Modell, und das KI-Modell läuft auf unseren Servern oder auf Ihrem. Die Vereinbarung nach § 203 StGB gilt auch für Amtsträger; auf Wunsch einer Behörde verpflichtet basebox seine Beschäftigten förmlich nach dem Verpflichtungsgesetz. Anmeldung und Rechte kommen aus Ihrer Benutzerverwaltung, jede Handlung steht im Protokoll, und KI-Antworten sind als solche gekennzeichnet. Für den Personalrat gibt es eine Muster-Dienstvereinbarung als unverbindlichen Entwurf. Unterlagen für Datenschutz und Personalrat: Sicherheit.