Recht und DatenschutzStand 11. Oktober 2026René HerzerMit KI erstellt

EU AI Act für Krankenhäuser

Für Krankenhäuser gilt die KI-Verordnung je nach Einsatz. KI für Arztbriefe, Zusammenfassungen oder Leitlinienfragen bringt vor allem die Pflicht zur KI-Kompetenz (Art. 4). Hochrisiko ist KI, die als Medizinprodukt von einer Benannten Stelle geprüft wird (ab 2. August 2028), KI für die Triage in der Notaufnahme und KI in Personalentscheidungen (ab 2. Dezember 2027). Dann gelten Betreiberpflichten, oft auch eine Grundrechte-Folgenabschätzung.

Welche KI im Krankenhaus ist Hochrisiko?

Einsatz	Einstufung	Ab
Arztbrief- und Befundentwürfe, Zusammenfassungen, Leitlinienfragen, Übersetzungen	kein Hochrisiko, solange ohne medizinische Zweckbestimmung	Art. 4 gilt schon
KI als Medizinprodukt, das eine Benannte Stelle prüft (MDR ab Klasse IIa), etwa Bildauswertung oder Diagnosevorschläge	Hochrisiko nach Art. 6 Abs. 1 und Anhang I	2. August 2028
Triage von Patientinnen und Patienten in der Notaufnahme, Einstufung von Notrufen	Hochrisiko nach Anhang III Nr. 5 Buchst. d	2. Dezember 2027
Bewerbungen sichten, Dienst- oder Aufgabenverteilung, Leistungsüberwachung	Hochrisiko nach Anhang III Nr. 4	2. Dezember 2027
Biometrische Identifizierung, Emotionserkennung	Hochrisiko nach Anhang III Nr. 1; Emotionserkennung bei Beschäftigten ist verboten, außer aus medizinischen oder Sicherheitsgründen (Art. 5)	Verbot seit 2. Februar 2025, sonst 2. Dezember 2027

Die Fristen hat die Verordnung (EU) 2026/1744 (Digital-Omnibus, in Kraft seit 27. Juli 2026) verschoben. Ob Software ein Medizinprodukt ist, entscheidet die Zweckbestimmung nach der MDR. Dazu der Ratgeber Ist KI ein Medizinprodukt?.

Was müssen Kliniken heute schon tun?

KI-Kompetenz (Art. 4): Ärztlicher Dienst, Pflege, Verwaltung und IT schulen, die KI nutzen, und das dokumentieren. Vorlagen im Ratgeber KI-Kompetenz nach Art. 4.
Transparenz (Art. 50, seit 2. August 2026): Ein Chatbot für Patientinnen, Angehörige oder Zuweiser muss als KI erkennbar sein. Veröffentlichte KI-Texte zu Themen von öffentlichem Interesse ohne redaktionelle Prüfung werden gekennzeichnet. Siehe Kennzeichnungspflicht nach Art. 50.
KI-Verzeichnis anlegen: Welche Systeme laufen, wofür, mit welchen Daten, und wie sind sie eingestuft?

Daneben gelten DSGVO, § 203 StGB, für Cloud-Dienste mit Gesundheitsdaten § 393 SGB V und die Mitbestimmung durch Betriebsrat oder Mitarbeitervertretung.

Was gilt beim Einsatz von Hochrisiko-KI?

Als Betreiber müssen Sie nach Art. 26 unter anderem das System nach Gebrauchsanweisung einsetzen, die menschliche Aufsicht mit kompetenten Personen besetzen, Eingabedaten auf Eignung prüfen, den Betrieb überwachen und schwere Vorfälle melden, Protokolle mindestens sechs Monate aufbewahren und Beschäftigte sowie deren Vertretung vorher informieren. Krankenhäuser in öffentlicher Trägerschaft und private Häuser mit öffentlichem Versorgungsauftrag brauchen in der Regel bei Anhang-III-Systemen eine Grundrechte-Folgenabschätzung.

Wer im Haus selbst eine KI-Anwendung mit medizinischer Zweckbestimmung baut, ist Hersteller nach MDR und damit auch Anbieter nach der KI-Verordnung. Für Eigenherstellung in Gesundheitseinrichtungen gelten Sonderregeln (Art. 5 Abs. 5 MDR).

Was ändert sich für Unikliniken?

KI, die ausschließlich für Forschung und Entwicklung entwickelt und in Betrieb genommen wird, fällt nicht unter die Verordnung (Art. 2 Abs. 6). Die Grenze ist der Einsatz in der Versorgung: Wird ein Forschungsmodell für Behandlungsentscheidungen genutzt, gelten MDR und KI-Verordnung.

Wie geht das mit basebox?

basebox ist eine Plattform, kein Hochrisikosystem, und kein Medizinprodukt: Es dient allgemeinen Aufgaben wie Briefentwürfen oder der Suche in Leitlinien. Bei Aufgaben mit Patientendaten liefert basebox Entwürfe und Zusammenfassungen mit Quelle, keine Diagnose und keinen Therapievorschlag; jedes Ergebnis prüft die Ärztin, der Arzt oder die Pflegefachperson. Baut Ihr Haus selbst ein Medizinprodukt und bindet darüber Modelle aus basebox ein, ist Ihr Haus der Hersteller; für die technische Dokumentation liefert basebox die Angaben eines Zulieferers: Modellregister mit Version und Lizenz, Software-Stückliste und ISO-27001-Zertifikat. Für den EU AI Act bekommen Sie Schulungen, Protokolle und das Modellregister. Mehr unter KI für Krankenhäuser und Sicherheit.

Keine Rechtsberatung: Stand 11. Oktober 2026. Die Abgrenzung zwischen MDR und KI-Verordnung wird durch Leitlinien der Kommission und der Medizinprodukte-Koordinierungsgruppe weiter konkretisiert. Prüfen Sie Einsätze mit klinischem Bezug vorab mit Ihrer Rechtsabteilung und Ihrem Datenschutzbeauftragten.

Häufige Fragen

Ist KI für Arztbriefe Hochrisiko-KI?

In der Regel nicht. Ein Entwurf, den die Ärztin oder der Arzt prüft, ändert und unterschreibt, hat keine medizinische Zweckbestimmung im Sinne der MDR und fällt nicht unter Anhang III. Anders kann es sein, wenn die Software selbst Diagnosen oder Therapien vorschlägt.

Gilt der EU AI Act für Forschungsprojekte an der Uniklinik?

KI-Systeme, die eigens für wissenschaftliche Forschung und Entwicklung entwickelt und nur dafür in Betrieb genommen werden, sind ausgenommen (Art. 2 Abs. 6). Sobald ein System in der Versorgung eingesetzt wird, gilt die Verordnung.

Müssen kirchliche und private Krankenhäuser eine Grundrechte-Folgenabschätzung machen?

Wenn sie Hochrisiko-KI nach Anhang III einsetzen, wahrscheinlich ja: Art. 27 erfasst auch private Einrichtungen, die öffentliche Dienste erbringen, und die Erwägungsgründe nennen die Gesundheitsversorgung als Beispiel. Für KI in Medizinprodukten (Anhang I) gilt Art. 27 nicht.

Drohen Krankenhäusern Bußgelder?

Ja, für private und freigemeinnützige Träger nach Art. 99 KI-Verordnung. Ob ein Haus in öffentlicher Trägerschaft unter die deutsche Ausnahme für öffentliche Stellen in § 17 Abs. 2 KI-MIG fällt, hängt von Rechtsform und Landesrecht ab.

Quellen

KI für Krankenhäuser Sicherheit und Nachweise

Dieser Artikel wurde mit Unterstützung von KI erstellt, auf Grundlage der genannten Quellen. Verantwortlich für den Inhalt: basebox GmbH. Keine Rechtsberatung, keine Haftung. Stand der Recherche: 11. Oktober 2026.