Das Klinikum Nürnberg ist eines der größten kommunalen Krankenhäuser Europas und ein Krankenhaus der Maximalversorgung. Mit seinen 8.400 Mitarbeitern versorgt es jährlich rund 335.000 stationäre und ambulante Patienten innerhalb eines Klinikverbundes mit vier Standorten in Nürnberg, Lauf und Altdorf. Zum Konzern gehören weiter die Akademie Klinikum Nürnberg sowie die Paracelsus Medizinische Privatuniversität Campus Nürnberg (PMU).
Dr. Manfred Criegee-Rieck ist Diplom-Mathematiker und als Medizininformatiker im Klinikum Nürnberg für die Anforderungen zur Implementierung von KI verantwortlich. Wir sprachen mit ihm über die Herausforderungen beim Einsatz von KI in einem Krankenhaus.
In welchen Bereichen setzen Sie im Klinikum Nürnberg bereits KI ein?
Zu den am häufigsten genannten Anwendungsbereichen von KI im Krankenhaus gehören die medizinische Bildgebung und die Radiologie, um nur zwei typische Bereiche zu nennen. Einer unserer ersten Schritte im Jahr 2020 ist der Einsatz von künstlicher Intelligenz bei der Diagnose von Hauterkrankungen. Die beiden Hauterkrankungen Ulcus cruris und das seltener vorkommende Pyoderma gangraenosum sehen sehr ähnlich aus, sind jedoch unterschiedlich zu behandeln. Das Ziel ist hier eine eindeutige Klassifikation zu erreichen, um die Verwechslungsgefahr zu minimieren. Finanzielle Unterstützung kam damals begrüßenswerterweise von der Manfred-Roth-Stiftung.
Neben der Medizin gibt es den Bereich der Informationssicherheit und des Datenschutzes, der durch KI-gestützte Verfahren verbessert werden soll. In dem von der Europäischen Kommission geförderten Projekt AI4HealtSec beispielsweise ist für uns als einem von 15 Projektpartnern das Ziel, die zeitnahe Entdeckung von Cyber-Angriffen auf die Infrastruktur zu optimieren und das Risikobewusstsein zu optimieren. Dabei werden neben den Schwachstellen- und Risikoanalyse in einer technischen Krankenhausinfrastruktur, moderne Methoden der Täuschung, z.B. des Social Engineering, mit KI-Unterstützung im Sinne der Prävention und Risikoabwehr weiterentwickelt.
Gibt es weitere typische Anwendungsfälle für den Einsatz von KI, die Sie in naher Zukunft sehen?
Die medizinische Dokumentation als Gesamtprozess bindet derzeit im Krankenhaus viel Zeit und Arbeitskraft von Ärzten und Pflegekräften, die nicht dem Patienten zugute kommt. Das derzeit praktizierte Diktieren und die digitale Spracherkennung sind aus meiner Sicht nur Interimslösungen, die punktuell und begrenzt Abhilfe schaffen, aber den Gesamtprozess nicht ausreichend automatisieren. Hier wünscht man sich eine KI, die gesprochene Sprache aufnimmt und so weiterverarbeitet, dass sowohl grammatikalisch korrekte und flüssig lesbare Texte entstehen, die z.B. für Arztbriefe, OP-Berichte oder Befunde benötigt werden, als auch eine fallbegleitende Kodierung aller abrechenbaren Leistungen eines Behandlungsfalles bereitstellt. Die Herausforderung, dass z.B. Patientenunterlagen nicht alle notwendigen und erlösrelevanten Informationen enthalten, könnte mit einer solchen fallbegleitenden KI gelöst werden bzw. negative Liquiditätseffekte vermieden werden, wenn realisiert wird, dass alle Behandlungsfälle zeitgerecht kodiert und abgerechnet werden können. Dies würde zu einer signifikanten Effizienzsteigerung beitragen.
Ist der Einsatz von KI noch „experimentell“ oder bringt er bereits einen messbaren Mehrwert zur Effizienzsteigerung im Klinikum Nürnberg?
Die Frage ist zu pauschal gestellt. Bei bestimmten, eingrenzbaren Fragestellungen produzieren spezifische KI-Lösungen einen quantifizierbaren Nutzen, weil sie die menschliche Leistungsfähigkeit dort zu übertreffen in der Lage sind, z.B. bei der Analyse und Klassifikation medizinischer Bilder. Hier kann man heute sicher von einem quantifizierbaren Mehrwert sprechen. Was Effizienzsteigerungen durch KI am Klinikum angeht, so liegen hierzu keine verlässlichen Informationen vor. Was die medizinischen Anwendungsfälle mit KI betrifft, so liest man meistens über Forschungs- oder Evaluationsprojekte die durchgeführt werden oder über Potentiale von KI-Technologien, was üblicherweise den experimentellen Charakter belegt. Eine KI-Lösung von der Stange für die Medizin ist mir nicht bekannt, insofern sind solche Werkzeuge noch deutlich vom gegenwärtigen Versorgungsalltag entfernt.
Darf ein Krankenhaus Cloud-basierte KI nutzen?
Weshalb nicht? Die gesetzlichen Rahmenbedingungen müssen eben wie bei vielen anderen Szenarien eingehalten werden und da sticht bei Cloud-Diensten der Datenschutz hervor. Eine Cloud-basierte KI, die datenschutzkonform im Auftrag eines Krankenhauses medizinische Daten verarbeitet, wird Kunden und Abnehmer finden. KI-Anbieter die das Konzept des Privacy by Design von Beginn an als Anforderung für Ihre cloudbasierte Dienstleistung verstanden haben, tun sich leichter. Die Strategie, den Schutz der Persönlichkeitsrechte als Hinderungsgrund für innovative Medizin mittels KI in den Raum zu stellen und nach einer Anpassung des Datenschutzrechts zu rufen, ist aus meiner Sicht nicht zielführend.
Welche Hürden und Hindernisse gibt es für den Einsatz von KI im Krankenhaus?
Zum einen müssen die regulatorischen Voraussetzungen für den Einsatz von KI im Krankenhaus und darüber hinaus im Gesundheitswesen geschaffen werden. Dies kann nicht im Krankenhaus selbst geschehen. Gerade die Verarbeitung von Gesundheitsdaten ist ein hochsensibler Bereich, in dem sich zudem rechtliche und auch ethische Fragen stellen. Darüber hinaus, aber nicht abschließend, müssen die Grundsätze einer modernen, evidenzbasierten Diagnostik und Therapie bei KI-gestützten Verfahren berücksichtigt werden. Vereinfacht ausgedrückt führt z.B. eine schlechte Qualität der Lerndaten mit Sicherheit nicht zu einer hohen Ergebnisqualität beim Einsatz von KI. Und die Handlungssicherheit zielt insbesondere auf die Bereiche Patientensicherheit, Behandlungseffektivität und -qualität ab. Bleiben diese Fragen unbeantwortet, fehlt es an Handlungs- und Investitionssicherheit.
Was den Einsatz von KI am Arbeitsplatz Krankenhaus betrifft, bin ich mehr als optimistisch, da viele Mitarbeitende aufgrund ihrer positiven Erfahrungen mit KI im privaten Umfeld den Einsatz im Unternehmen sogar einfordern.
Haben Sie bereits maßgeschneiderte KI-Lösungen für das Klinikum Nürnberg entwickelt?
In der Entwicklung befindet sich, wie bereits erwähnt, eine KI, die gelernt hat, die beiden Hauterkrankungen Ulcus cruris und das seltenere Pyoderma gangraenosum, auch Dermatitis ulcerosa genannt, sicher zu unterscheiden, da beide zwar ähnlich aussehen, aber unterschiedlich behandelt werden müssen. Eine Wundreinigung, wie sie beim Ulcus cruris üblich ist, kann bei Patienten mit Dermatitis ulcerosa im schlimmsten Fall zur Amputation führen. Die Notwendigkeit einer korrekten und zuverlässigen Klassifikation von Anfang an entspricht daher ganz dem ärztlichen Grundsatz “primum non nocere, secundum cavere, tertium sanare”!*
Gibt es Partnerschaften mit KI-Startups wie OpenAI, Cohere oder Anthropic?
Nein, zum aktuellen Zeitpunkt nicht. Allerdings beobachten wir den Markt und freuen uns über jeden potentiellen Partner der sich bereits im Vorfeld mit den regulatorischen und ethischen Rahmenbedingungen in unserer Branche vertraut gemacht hat, um zeitnah über einen konkreten Anwendungsfall zu diskutieren – der nicht erst aufwendig gefunden werden muss. Wir haben zudem eine nicht geringe Anzahl von Mitarbeitern über alle Berufsgruppen hinweg, die sich im Privaten sehr intensiv mit innovativen Verbesserungen beschäftigen, die z.B.durch ein LLM wie ChatGPT oder RPA (Robotergesteuerte Prozess Automatisierung) möglich sind und dies aktiv in den beruflichen Kontext einbringen bzw. propagieren und einfordern.
Entwickelt das Klinikum Nürnberg ein eigenes LLM (Large Language Model) oder sind Sie daran interessiert?
Wie bereits erwähnt, wären wir sehr an einem LLM interessiert, das den Gesamtprozess der medizinischen Dokumentation innerhalb unserer Systemumgebung zeitnah und effizient gestaltet. Eine Eigenentwicklung sehe ich nur im Rahmen eines geförderten Projektes, in dem der zu leistende fachliche Eigenanteil meines Klinikums angemessen Berücksichtigung findet.
Gibt es in Ihrer Organisation Vorbehalte gegenüber dem Einsatz von KI?
Es gibt sicherlich Vorbehalte und die zentrale Frage ist, wie man damit umgeht. Manche Mitarbeiterinnen und Mitarbeiter haben eine gesunde Skepsis und pochen darauf, den Nutzen zu sehen. Andere, die sich tiefgehender mit KI beschäftigt haben, sehen auch die Risiken eines unreflektierten Einsatzes oder die ethischen Herausforderungen dieser neuen Werkzeugkategorie. Wieder andere haben ganz konkret die Konkurrenzsituation durch die Verlagerung von Tätigkeiten auf eine KI vor Augen. Hier gilt es, offen und transparent zu agieren und diese Vorbehalte nicht als unberechtigt abzutun.
Bei neuen Technologien und Methoden muss immer eine Balance zwischen manchmal zu euphorischen Erwartungen und realistischen Ergebnissen gefunden werden. Das gilt nicht nur für meine Organisation und wir sind auf dem Weg dorthin.
Wie lässt sich der Einsatz von KI mit dem strengen deutschen Patientendatenschutzgesetz vereinbaren?
Das PDSG verfolgt primär das Ziel, dass Versicherte über eine elektronische Patientenakte (ePA) verfügen und damit Herr über ihre medizinischen Daten und Informationen werden. Das bedeutet, dass neben Arztberichten, Befunden oder Röntgenbildern auch eingenommene Medikamente, elektronische Rezepte, der Impfpass oder andere medizinische Dokumente an einem Ort gespeichert werden und der Patient allein entscheidet, was mit seinen Daten geschieht. Er steuert somit in jedem Einzelfall, wer zu welchem Zweck auf seine ePA zugreifen darf. Dies geschieht beispielsweise über eine App auf seinem Smartphone oder Tablet. Der Zugriff auf die ePA erfolgt innerhalb der Telematikinfrastruktur durch Ärzte, Krankenhäuser oder Apotheker und falls dort ein KI-Verfahren zum Einsatz kommen soll, so muss der Patient informiert und dahingehend seine Zustimmung eingeholt werden. Falls er diese Zustimmung erteilt, und alle datenschutzrechtlichen Kriterien wie z.B. die Zweckbindung im KI-Verfahren eingehalten werden, sollte der Einsatz von KI problemlos möglich sein.
Gibt es Befürchtungen, dass Patientendaten durch den Einsatz von KI nach außen gelangen könnten?
Jeder Nutzer einer ePA innerhalb der zugrundeliegenden Telematikinfrastruktur, sei es ein Arzt, ein Krankenhaus oder ein Apotheker, ist für den Schutz der von ihm verarbeiteten Patientendaten verantwortlich. Insofern muss jeder dieser Nutzer sicherstellen, dass keine Patientendaten nach außen gelangen oder die Telematikinfrastruktur verlassen können. Dazu muss z. B. der Anbieter einer Softwarelösung, die Patientendaten mittels KI verarbeitet, vom Anwender vertraglich verpflichtet werden, die technischen und ggf. organisatorischen Voraussetzungen dafür zu schaffen, dass ein solches Ausleiten faktisch nicht möglich ist. Derartige Befürchtungen sind nicht unbegründet. Insbesondere dann, wenn z. B. aus Zeit- oder Kostengründen technisch-organisatorische Sicherungsmaßnahmen unterbleiben.
Welche Wünsche haben Sie in Bezug auf KI? Was sollte sie für die Patienten und Patientinnen und die Klinik besser machen?
Übergreifend müssen KI-basierte Werkzeuge alle datenverarbeitende Prozesse im Krankenhaus effizienter gestalten und dabei stets gegenüber Patienten und medizinischem Personal sicher handhabbar, vertrauenswürdig und verbindlich bleiben. Meine unmittelbaren Wunschziele für KI wären eine zeitnahe Entlastung des Personals in Versorgung und Verwaltung. Mehr Zeit am Bett kommt den Patienten unmittelbar zugute, schnellere Planungszeiten in der Verwaltung, z.B. für die optimale Personalbesetzung einer Station, ebenso. Der erste Fokus für KI muss auf den Zeitfressern Dokumentation, Verwaltungsbürokratie und Planung liegen. Im zweiten Schritt wären es die medizinischen Anwendungen wie präzisere Diagnosen, schnellere Auswertung komplexer Befundkonstellationen (Multimorbidität, Polypharmazie) und höhere Effizienz bei der Individualisierung einer Therapie mit besserer Wirksamkeit bei gleichzeitiger Schonung des Patienten.
*“Erstens nicht schaden, zweitens vorsichtig sein, drittens heilen.“
