KI und DSGVO: Was Organisationen wissen müssen

Wann gilt die DSGVO für KI?

Sobald eine KI personenbezogene Daten verarbeitet: in der Eingabe, in hochgeladenen Dokumenten, in der Antwort oder schon bei der Anmeldung. Das ist bei Briefentwürfen, Bescheiden, Protokollen oder E-Mails fast immer der Fall. Nur Einsatzfelder ganz ohne Personenbezug, etwa die Auswertung geologischer Karten, fallen nicht darunter. Die Datenschutzkonferenz (DSK) rät, das gründlich und über den ganzen Lebenszyklus der Daten zu prüfen, weil sich ein Personenbezug auch aus dem Zusammenhang ergeben kann.

Welche Pflichten haben Sie als Verantwortlicher?

Pflicht	Grundlage	Was das bei KI heißt
Zweck festlegen	Art. 5 Abs. 1 lit. b	Einsatzfelder vorab bestimmen, öffentliche Stellen im Rahmen ihrer Aufgaben
Rechtsgrundlage	Art. 6, bei Gesundheitsdaten Art. 9	für jeden Verarbeitungsschritt, auch für die Übermittlung an den Anbieter
Informieren	Art. 13, 14	Betroffene erfahren, dass und wie KI eingesetzt wird
Vertrag mit dem Anbieter	Art. 28	AVV mit Weisungsbindung, Unterauftragsverarbeitern, Löschung
Verzeichnis	Art. 30	KI-Einsatz als eigene Verarbeitungstätigkeit eintragen
Sicherheit	Art. 25, 32	Rechte, Protokoll, Verschlüsselung, datenschutzfreundliche Voreinstellungen
Folgenabschätzung	Art. 35	bei KI „vielfach“ nötig (DSK), bei Gesundheitsdaten in der Regel
Datenpannen	Art. 33, 34	Meldung binnen 72 Stunden an die Aufsicht

Den Datenschutzbeauftragten binden Sie früh ein. Betriebs- oder Personalrat ebenfalls: Die Einführung einer KI erfüllt oft einen Mitbestimmungstatbestand (Muster-Dienstvereinbarung für KI).

Ist der KI-Anbieter Auftragsverarbeiter?

Meist ja. Setzen Sie eine KI eines Anbieters zu Ihren Zwecken ein, handelt dieser in Ihrem Auftrag, und Sie schließen einen Vertrag nach Art. 28 Abs. 3 DSGVO. Anders ist es, wenn der Anbieter Ihre Eingaben für eigene Zwecke nutzt, etwa um seine Modelle zu trainieren. Für diesen Teil wird er selbst Verantwortlicher (Art. 28 Abs. 10) und braucht eine eigene Rechtsgrundlage. Die DSK hält deshalb Anwendungen für vorzugswürdig, die Ein- und Ausgaben nicht zum Training verwenden. Worauf Sie im Vertrag achten: AVV mit KI-Anbietern.

Was gilt für Gesundheits-, Sozial- und Bürgerdaten?

Gesundheitsdaten gehören zu den besonderen Kategorien nach Art. 9 DSGVO. Ihre Verarbeitung ist verboten, außer eine Ausnahme greift, im Gesundheitswesen meist Art. 9 Abs. 2 lit. h mit dem Behandlungsvertrag und einer Schweigepflicht. Dazu kommen Spezialgesetze: § 203 StGB für Berufsgeheimnisträger, § 393 SGB V für Cloud-Dienste im Gesundheitswesen, das Sozialgeheimnis und § 80 SGB X für Sozialdaten. Einzelheiten: Art. 9 DSGVO und KI.

Darf eine KI über Menschen entscheiden?

Grundsätzlich nicht allein. Nach Art. 22 DSGVO dürfen Entscheidungen mit Rechtswirkung nicht ausschließlich automatisiert fallen. Die DSK verlangt, dass der entscheidende Mensch einen tatsächlichen Spielraum hat; eine nur formelle Beteiligung genügt nicht. Ihr Beispiel: Eine KI, die Bewerbungen auswertet und selbst Einladungen verschickt, verstößt gegen Art. 22. Für Behörden regelt § 35a VwVfG den vollautomatisierten Verwaltungsakt, und der kommt bei Ermessen nicht in Frage.

Was ist mit Übermittlungen in die USA?

Läuft das KI-Modell bei einem US-Anbieter oder greift ein solcher technisch zu, ist das eine Übermittlung in ein Drittland (Kapitel V DSGVO). Für zertifizierte Unternehmen gilt der Angemessenheitsbeschluss zum EU-US Data Privacy Framework vom 10. Juli 2023; das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen, der Rechtsstreit kann aber weitergehen. Unabhängig davon gilt für US-Unternehmen der US Cloud Act, auch in europäischen Rechenzentren. Welche Rolle das für Ihre Risikobewertung spielt, steht in US Cloud Act und KI.

Und die KI-Verordnung?

Sie gilt zusätzlich. Für die meisten Assistenten in Verwaltung und Klinik bleiben die Pflichten überschaubar: KI-Kompetenz der Beschäftigten (Art. 4) und Transparenz (Art. 50). Strenger wird es bei Hochrisiko-Systemen. Mit der Änderungsverordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, gelten deren Pflichten für Systeme nach Anhang III erst ab dem 2. Dezember 2027, für Produkte nach Anhang I ab dem 2. August 2028. Überblick: KI-Kompetenz nach Art. 4.

Checkliste vor dem Start

• Zweck: Einsatzfelder schriftlich festlegen.
• Ort: Wo laufen Plattform und KI-Modell, wer hat Zugriff?
• Training: Vertraglich ausgeschlossen?
• Vertrag: AVV, Liste der Unterauftragsverarbeiter, bei Bedarf Vereinbarung nach § 203 StGB.
• Dokumentation: Verzeichnis, DSFA, Information der Betroffenen.
• Regeln: Dienstanweisung oder Betriebsvereinbarung, dienstliche Konten, Schulung.

Wie geht das mit basebox?

basebox handelt als Auftragsverarbeiter: Der AVV nach Art. 28 DSGVO ist Teil jedes Vertrags, die TOMs und die Liste der Unterauftragsverarbeiter stehen zum Herunterladen auf /sicherheit. Ihre Daten trainieren kein Modell. Das KI-Modell in basebox läuft beim Server auf Ihrer Hardware, in der Cloud in Deutschland. Für Verzeichnis und DSFA gibt es Vorlagen, in denen die Angaben zu basebox schon ausgefüllt sind. Entscheidungen treffen Menschen: basebox macht Vorschläge.

Keine Rechtsberatung: Dieser Überblick ersetzt nicht die Prüfung im Einzelfall durch Ihren Datenschutzbeauftragten. Leitlinien der Aufsichtsbehörden und die KI-Verordnung werden laufend fortgeschrieben. Stand der Recherche: 11. Oktober 2026.