Wer haftet bei KI-Fehlern in der Verwaltung?

Wer haftet gegenüber Bürgerinnen und Bürgern?

Die Behörde. Eine KI ist rechtlich ein Werkzeug, kein Amtsträger. Wer einen Bescheid, eine Auskunft oder eine Stellungnahme mit Hilfe einer KI erstellt, handelt weiter als Amtsperson. Verletzt sie dabei eine Amtspflicht, die gegenüber der betroffenen Person besteht, gilt:

• § 839 BGB begründet den Schadensersatzanspruch wegen Amtspflichtverletzung.
• Art. 34 GG leitet die Haftung auf den Staat oder die Körperschaft über, in deren Dienst die Person steht: Bund, Land, Kreis, Gemeinde.
• Rückgriff auf die Beschäftigten gibt es nur bei Vorsatz oder grober Fahrlässigkeit (Art. 34 Satz 2 GG, für Beamtinnen und Beamte § 48 BeamtStG).

Zwei Einschränkungen aus § 839 BGB bleiben auch beim Einsatz von KI: Bei Fahrlässigkeit haftet der Staat nur, wenn die geschädigte Person nicht auf andere Weise Ersatz bekommen kann (Abs. 1 Satz 2). Und wer es schuldhaft unterlässt, sich mit einem Rechtsmittel zu wehren, etwa mit einem Widerspruch gegen den Bescheid, verliert den Anspruch (Abs. 3).

Welche Amtspflichten berührt der Einsatz von KI?

Die Pflichten sind dieselben wie ohne KI. Sie werden mit KI nur anders verletzt:

Pflicht	Was bei KI schiefgehen kann
Sachverhalt ermitteln (§ 24 VwVfG)	Die KI fasst eine Akte zusammen und lässt einen entscheidenden Umstand weg.
Rechtmäßig entscheiden	Die KI nennt eine Vorschrift, die es nicht gibt oder die nicht mehr gilt.
Begründen (§ 39 VwVfG)	Die Begründung im Entwurf passt nicht zu den tatsächlichen Erwägungen.
Ermessen ausüben	Die Behörde übernimmt einen KI-Vorschlag, ohne eigenes Ermessen auszuüben (Ermessensausfall).
Richtig auskunften	Ein Chatbot auf der Website gibt eine falsche Frist an.
Daten schützen	Personenbezogene Daten gehen an einen Dienst ohne Auftragsverarbeitungsvertrag.

Daneben steht das Organisationsverschulden: Wer KI ohne Regeln, Schulung und Kontrolle einsetzt, verletzt unter Umständen eine eigene Pflicht der Behördenleitung, auch wenn keiner einzelnen Person ein Vorwurf zu machen ist.

Was erlaubt § 35a VwVfG?

Ein Verwaltungsakt darf nur dann vollständig durch automatische Einrichtungen erlassen werden, wenn eine Rechtsvorschrift das zulässt und weder Ermessen noch Beurteilungsspielraum besteht. Beispiele sind bestimmte Steuer- und Sozialbescheide mit eigener Rechtsgrundlage. Für Ermessensentscheidungen ist die Vollautomatisierung ausgeschlossen.

Entwürfe sind davon nicht erfasst: Schreibt eine KI einen Bescheidentwurf und prüft, ändert und zeichnet ihn eine Amtsperson, ist das kein vollautomatischer Verwaltungsakt. Entscheidend ist, dass der Mensch tatsächlich prüft. Wer KI-Entwürfe ungelesen übernimmt, riskiert einen Ermessensfehler und im Schadensfall den Vorwurf grober Fahrlässigkeit.

Die Bundesregierung plant laut ihrer Modernisierungsagenda bis Ende 2027 eine neue Ermächtigungsgrundlage für vollautomatisierte Verwaltungsakte im VwVfG. Ein Gesetzentwurf lag am 11. Oktober 2026 nicht vor.

Was verlangt die DSGVO bei automatisierten Entscheidungen?

Art. 22 DSGVO verbietet grundsätzlich Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und die betroffene Person erheblich beeinträchtigen. Der Europäische Gerichtshof hat 2023 im SCHUFA-Urteil (C-634/21) entschieden, dass schon ein automatisch berechneter Wert eine solche Entscheidung sein kann, wenn er für das Ergebnis maßgeblich ist. Für die Verwaltung heißt das: Der Mensch muss den KI-Vorschlag nicht nur abzeichnen, sondern eigenständig würdigen können.

Was ändert der EU AI Act?

Die KI-Verordnung regelt Pflichten, keine Haftung. Für Behörden sind vor allem diese Punkte wichtig:

• Hochrisiko-KI: Systeme, die über Anspruch auf öffentliche Leistungen entscheiden oder ihn bewerten, gehören zu Anhang III. Betreiber müssen sie nach Gebrauchsanweisung einsetzen, die menschliche Aufsicht fachkundigen Personen übertragen und Protokolle mindestens sechs Monate aufbewahren (Art. 26). Öffentliche Stellen machen vor dem Einsatz eine Grundrechte-Folgenabschätzung (Art. 27).
• Fristen: Nach der Änderungsverordnung (EU) 2026/1744 gelten die Pflichten für Hochrisiko-Systeme nach Anhang III erst ab dem 2. Dezember 2027.
• Erklärung: Betroffene haben bei solchen Entscheidungen ein Recht auf Erläuterung, welche Rolle die KI gespielt hat (Art. 86).
• KI-Kompetenz: Wer KI einsetzt, fördert die KI-Kompetenz der Beschäftigten (Art. 4). Mehr dazu im Ratgeber KI-Kompetenz nach Art. 4.

Wer die Pflichten verletzt, hat damit noch keinen Schadensersatzanspruch ausgelöst. Im Amtshaftungsprozess kann ein Verstoß aber zeigen, dass die Behörde ihre Sorgfalt nicht beachtet hat.

Und die Haftung des Herstellers?

Die EU-Kommission hat ihren Vorschlag für eine eigene KI-Haftungsrichtlinie 2025 zurückgezogen. Es gilt die neue Produkthaftungsrichtlinie (EU) 2024/2853: Software, auch KI, ist danach ein Produkt. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Ersatz bekommen nach ihr nur natürliche Personen, etwa für Körper- oder Gesundheitsschäden; Vermögensschäden einer Behörde deckt sie nicht. Ob die Behörde den Anbieter in Regress nehmen kann, entscheidet deshalb vor allem der Vertrag. Mehr dazu im Ratgeber Haftung: Open-Source-Eigenbau oder gekaufte Plattform?

Wie senken Sie das Haftungsrisiko?

• Mensch entscheidet: KI liefert Entwürfe, Zusammenfassungen und Hinweise. Entscheidung und Unterschrift bleiben bei der zuständigen Person.
• Quellen prüfen: Antworten mit Quellenangabe lassen sich gegen Gesetz und Akte prüfen.
• Regeln festlegen: Für welche Aufgaben KI erlaubt ist, steht in einer Dienstanweisung oder Dienstvereinbarung.
• Schulen: Beschäftigte kennen typische Fehler wie erfundene Vorschriften.
• Nachvollziehbar dokumentieren: Wer hat wann was genutzt und freigegeben? Siehe Beweiswert von KI-Dokumentation.
• Keine Hochrisiko-Aufgaben ohne Vorbereitung: Entscheidungen über Leistungen erst nach Prüfung der Pflichten aus dem AI Act.

Wie geht das mit basebox?

basebox liefert Entwürfe und Antworten mit Quelle; die Entscheidung trifft die zuständige Person. basebox ist eine Plattform, kein Hochrisikosystem, und nicht dafür gebaut, Personen einzuschätzen. Jede Person sieht nur, was sie sehen darf, denn die Rechte kommen aus Ihrer Benutzerverwaltung. Das Audit-Log hält fest, wer was wann getan hat, ist nicht änderbar und wird standardmäßig sechs Monate aufbewahrt, einstellbar von 3 bis 36 Monaten. Konnektoren lesen ab Werk nur. Für die Mitbestimmung gibt es eine Muster-Dienstvereinbarung auf /sicherheit.

Keine Rechtsberatung: Dieser Artikel gibt einen Überblick über die Rechtslage in Deutschland, Stand 11. Oktober 2026. Die Länder haben eigene Verwaltungsverfahrensgesetze, die § 35a VwVfG überwiegend entsprechen. Die Fristen der KI-Verordnung und das Produkthaftungsrecht ändern sich gerade. Für den Einzelfall fragen Sie Ihr Rechtsamt.