Selbstgebaute Open-Source-KI in Krankenhaus und Kommune: Welche Vorgaben zusätzlich gelten

Was ändert sich, wenn das Haus die KI selbst baut?

Die Vorgaben selbst ändern sich nicht: Datenschutz, IT-Sicherheit und Geheimnisschutz gelten für jede Software. Es ändert sich, wer die Nachweise liefert. Bei einem gekauften Produkt bringt der Anbieter Zertifikat, AVV, TOMs und Beschreibungen mit, und das Haus ergänzt sie für seinen Betrieb. Beim Eigenbau aus Open-Source-Bausteinen erstellt das Haus alles selbst oder lässt es von einem Dienstleister erstellen. Was Open-Source-Software dafür mitbringt und was nicht, beschreibt der Ratgeber Was eine Open-Source-KI nicht automatisch mitbringt.

Welche Vorgaben gelten im Krankenhaus?

Vorgabe	Was der Eigenbau leisten muss
§ 391 SGB V oder BSIG	Vorkehrungen nach dem Stand der Technik für Verfügbarkeit, Integrität und Vertraulichkeit; Krankenhäuser, die unter das BSIG fallen, erfüllen stattdessen dessen Pflichten. § 30 BSIG nennt unter anderem Sicherheit der Lieferkette, Umgang mit Schwachstellen, Zugriffskontrolle und Mehr-Faktor-Anmeldung
B3S Krankenhaus	Der branchenspezifische Sicherheitsstandard kann die Pflichten aus § 391 SGB V abdecken; die KI gehört dann in dessen Risikoanalyse
§ 203 StGB	Erhält ein Dienstleister Zugang zu Patientendaten, etwa im Betrieb oder bei der Fehlersuche, muss er vorher zur Verschwiegenheit verpflichtet sein
Landeskrankenhausgesetz	Viele Länder regeln die Verarbeitung von Patientendaten durch Dritte gesondert, etwa Bayern in Art. 27 BayKrG
§ 393 SGB V	Läuft der Eigenbau bei einem Cloud-Anbieter, braucht dieser für Gesundheitsdaten ein C5-Testat oder den gleichwertigen Nachweis nach § 1 C5GleichwV
MDR	Hat eine App einen medizinischen Zweck, etwa Diagnose oder Therapievorschlag, kann sie ein Medizinprodukt sein; für Eigenherstellung im Haus gilt Art. 5 Abs. 5 MDR

Mehr dazu in den Ratgebern § 203 StGB und KI und Ist KI ein Medizinprodukt?. Für kirchliche Träger kommen KDG oder DSG-EKD dazu, siehe Kirchlicher Datenschutz.

Welche Vorgaben gelten in der Kommune?

Vorgabe	Was der Eigenbau leisten muss
Sozialgeheimnis (§ 35 SGB I)	Sozialdaten nur für Befugte; Rechte bis in die angebundenen Fachverfahren
§ 80 SGB X	Verarbeitet ein Dienstleister Sozialdaten im Auftrag, etwa ein Hoster oder eine Agentur im Betrieb, ist das der Aufsichtsbehörde vorher anzuzeigen; nicht öffentliche Stellen nur unter den Bedingungen von Abs. 3
Steuergeheimnis (§ 30 AO)	Steuerdaten, etwa aus Gewerbe- oder Grundsteuer, nur für Befugte
Informationssicherheit	NIS2 für die Verwaltung von Ländern und Kommunen regeln die Länder; unabhängig davon ist BSI IT-Grundschutz in vielen Kommunen Maßstab
Barrierefreiheit	Öffentliche Stellen des Bundes müssen auch Angebote für Beschäftigte im Intranet barrierefrei gestalten (§ 12a BGG); die Länder haben eigene Gesetze. Beim Eigenbau prüft das Haus die Oberfläche selbst
Vergaberecht	Open-Source-Software ist kostenlos, Dienstleistungen für Aufbau und Betrieb sind auszuschreiben

Mehr in den Ratgebern Steuergeheimnis und Sozialgeheimnis und Vergaberecht für KI in Deutschland.

Was gilt für beide?

• Datenschutz: Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO), technische und organisatorische Maßnahmen (Art. 32), bei Gesundheits- und Sozialdaten meist eine Datenschutz-Folgenabschätzung (Art. 35), ein AVV mit jedem Dienstleister, der Daten verarbeitet (Art. 28).
• KI-Verordnung: Wer ein KI-System selbst entwickelt und unter eigenem Namen in Betrieb nimmt, kann Anbieter sein (Art. 3 Nr. 3), zusätzlich zu den Pflichten als Betreiber (Art. 26) und zur KI-Kompetenz (Art. 4). Siehe Eigene KI-Apps: Wann sind Sie Anbieter?
• Personalvertretung: Eine KI mit Protokoll ist mitbestimmungspflichtig, im Eigenbau wie beim Kauf. Siehe Muster-Dienstvereinbarung für KI.
• Haftung: Wer selbst baut, kann nach der neuen Produkthaftungsrichtlinie als Hersteller gelten. Siehe Haftung: Open-Source-Eigenbau oder gekaufte Plattform?
• ISO 27001 und NIS2: Was ein selbstgebauter Stack für ein ISMS liefern muss, steht im Ratgeber ISO 27001 und NIS2 für selbstgebaute KI.

Wo hilft Open Source bei der Compliance?

Offener Quellcode lässt sich prüfen, eine Software-Stückliste ist leichter zu erstellen, und das Haus ist nicht von einem einzelnen Hersteller abhängig. Diese Vorteile sind real. Sie ersetzen aber keinen Nachweis: Ein Prüfer fragt nicht, ob der Code offen ist, sondern ob Rechte, Protokoll, Updates und Notfallplan funktionieren und dokumentiert sind.

Wie geht das mit basebox?

basebox bringt die Unterlagen des Anbieters mit: ISO 27001 zertifiziert, AVV, TOMs, die Liste der Unterauftragsverarbeiter und die Vereinbarung nach § 203 StGB zum Herunterladen auf Sicherheit. Die Vereinbarung nach § 203 StGB gilt auch für Amtsträger; auf Wunsch einer Behörde verpflichten wir unsere Beschäftigten förmlich nach dem Verpflichtungsgesetz. Patienten-, Bürger- und Sozialdaten dürfen verarbeitet werden, auf dem Server und in der Cloud. Für die Cloud gehen wir den Weg zum C5-Testat, zuerst Typ 1, danach Typ 2; bis dahin führen wir den Nachweis nach § 393 Abs. 4 SGB V über ISO 27001 mit Maßnahmenplan nach § 1 C5GleichwV. Beim Server ist C5 nicht nötig, dort gelten Ihre Vorgaben als Betreiber. Eine Zuordnung unserer Maßnahmen zum B3S Krankenhaus bekommen Sie auf Anfrage. basebox ist noch nicht vollständig barrierefrei, ab 2027 wird es das sein.

Keine Rechtsberatung: Dieser Ratgeber gibt einen Überblick, Stand 11. Oktober 2026. Landesrecht, Trägerschaft und Einsatz entscheiden, welche Vorgaben im Einzelfall gelten. Lassen Sie das von Ihrer oder Ihrem Datenschutzbeauftragten und gegebenenfalls rechtlich prüfen.