Das Nuremberger Krankenhaus ist eines der größten städtischen Krankenhäuser in Europa und ein Krankenhaus mit maximaler Versorgung. Mit seinen 8.400 Mitarbeitern behandelt es jedes Jahr etwa 335.000 stationäre und ambulante Patienten an seinen vier Standorten in Nürnberg, Lauf und Altdorf. Die Gruppe umfasst auch die Akademie Klinikum Nürnberg und die Paracelsus Medizinische Privatuniversität Campus Nürnberg (PMU).

Dr. Manfred Criegee-Rieck hat einen Doktortitel in Mathematik und ist als medizinischer IT-Spezialist am Nuremberger Krankenhaus für die Anforderungen zur Umsetzung von KI verantwortlich. Wir haben mit ihm über die Herausforderungen der Nutzung von KI in einem Krankenhaus gesprochen:

In welchen Bereichen nutzen Sie bereits KI im Nuremberger Krankenhaus?

Die am häufigsten genannten Anwendungsbereiche für KI in Krankenhäusern umfassen medizinische Bildgebung und Radiologie, um nur zwei typische Bereiche zu nennen. Einer unserer ersten Schritte im Jahr 2020 war der Einsatz von künstlicher Intelligenz bei der Diagnose von Hautkrankheiten. Die beiden Hautkrankheiten, Ulcus cruris und das weniger verbreitete Pyodermie gangraenosum, sehen sich sehr ähnlich, werden aber unterschiedlich behandelt. Ziel ist es, eine klare Klassifikation zu erreichen, um das Verwechselungsrisiko zu minimieren. Die Manfred Roth Stiftung hat damals willkommene finanzielle Unterstützung geleistet.

Zusätzlich zur Medizin gibt es auch den Bereich der Informationssicherheit und des Datenschutzes, den wir durch KI-unterstützte Prozesse verbessern möchten. Im Projekt AI4HealthSec, das von der Europäischen Kommission gefördert wird, ist unser Ziel, als einer von 15 Projektpartnern die zeitnahe Erkennung von Cyberangriffen auf die Infrastruktur zu optimieren und das Risikobewusstsein zu schärfen. Neben der Schwachstellen- und Risikoanalyse in der technischen Krankenhausinfrastruktur werden moderne Methoden der Täuschung, z.B. Social Engineering, mit KI-Unterstützung in Bezug auf Prävention und Risikodefense weiterentwickelt.

Sehen Sie weitere typische Anwendungsfälle für die Anwendung von KI in naher Zukunft?

Die medizinische Dokumentation als Gesamtprozess bindet derzeit viel Zeit und Manpower von Ärzten und Pflegekräften in Krankenhäusern, was dem Patienten nicht zugutekommt. Meiner Meinung nach sind die aktuell verwendeten Diktier- und digitalen Spracherkennungssysteme nur Übergangslösungen, die selektive und begrenzte Entlastung bieten, aber den Gesamtprozess nicht ausreichend automatisieren. Hier wird eine KI benötigt, die gesprochene Sprache erfasst und so verarbeitet, dass grammatikalisch korrekte und flüssig lesbare Texte erzeugt werden, die für Arztbriefe, Operationsberichte oder Befunde benötigt werden, sowie die fallbezogene Codierung aller abrechenbaren Leistungen für einen Behandlungsfall voraussetzt. Die Herausforderung, dass Patientenakten nicht alle notwendigen und umsatzrelevanten Informationen enthalten, könnte mit einer solchen fallbezogenen KI gelöst werden, wodurch negative Liquiditätseffekte vermieden werden, indem sichergestellt wird, dass alle Behandlungsfälle rechtzeitig codiert und abgerechnet werden können. Dies würde zu einem signifikanten Anstieg der Effizienz beitragen.

Ist der Einsatz von KI noch „experimentell“ oder bringt er bereits messbaren Mehrwert in Bezug auf die Effizienzsteigerung im Nuremberger Krankenhaus?

Die Frage ist zu verallgemeinert. Spezifische KI-Lösungen erzeugen einen quantifizierbaren Nutzen für bestimmte, definierbare Probleme, da sie die menschliche Leistung übertreffen können, z.B. bei der Analyse und Klassifikation medizinischer Bilder. Hier können wir heute sicherlich von quantifizierbarem Mehrwert sprechen. Was die Effizienzgewinne durch KI im Krankenhaus betrifft, so liegen zuverlässige Informationen hierzu nicht vor. Bei medizinischen Anwendungsfällen mit KI lesen wir meistens über Forschungs- oder Evaluationsprojekte oder das Potenzial von KI-Technologien, die ihren experimentellen Charakter zeigen. Ich kenne keine schlüsselfertige KI-Lösung für die Medizin, sodass solche Werkzeuge noch weit von der Nutzung im Alltag des Gesundheitswesens entfernt sind.

Kann ein Krankenhaus cloudbasierte KI nutzen?

Ja, das ist in der Tat möglich. Wie bei vielen anderen Szenarien müssen die rechtlichen Rahmenbedingungen eingehalten werden, und der Datenschutz springt besonders im Falle von Cloud-Diensten ins Auge. Eine cloudbasierte KI, die medizinische Daten im Auftrag eines Krankenhauses unter Einhaltung der Datenschutzvorschriften verarbeitet, wird Kunden und Käufer finden. KI-Anbieter, die das Konzept von Privacy by Design als Voraussetzung für ihren cloudbasierten Service von Anfang an verstanden haben, wird es leichterfallen. Meiner Meinung nach ist die Strategie, den Schutz persönlicher Rechte als Hindernis für die innovative Medizin mit KI darzustellen und eine Änderung des Datenschutzgesetzes zu fordern, nicht zielführend.

Welche Hürden und Hindernisse gibt es für den Einsatz von KI in Krankenhäusern?

Zunächst müssen die regulatorischen Anforderungen für den Einsatz von KI in Krankenhäusern und darüber hinaus im Gesundheitssektor festgelegt werden. Dies kann nicht im Krankenhaus selbst erfolgen. Die Verarbeitung von Gesundheitsdaten ist insbesondere ein hochsensibler Bereich, in dem auch rechtliche und ethische Fragen aufkommen. Darüber hinaus müssen die Prinzipien moderner, evidenzbasierter Diagnostik und Therapie in KI-unterstützten Verfahren berücksichtigt werden. Kurz gesagt, qualitativ minderwertige Lern-Daten führen nicht zu hochwertigen Ergebnissen bei der Verwendung von KI. Die Sicherheit der Patienten, die Behandlungswirksamkeit und die Qualität sind von größter Bedeutung. Wenn diese Fragen unbeantwortet bleiben, mangelt es an Handlungssicherheit und Investitionssicherheit.

Was den Einsatz von KI am Arbeitsplatz im Krankenhaus betrifft, bin ich optimistisch, da viele Mitarbeiter aufgrund ihrer positiven Erfahrungen mit KI im privaten Leben sogar deren Nutzung im Unternehmen fordern.

Haben Sie bereits maßgeschneiderte KI-Lösungen für das Nuremberger Krankenhaus entwickelt?

Wie bereits erwähnt, entwickeln wir derzeit eine KI, die gelernt hat, zuverlässig zwischen den beiden Hautkrankheiten Ulcus cruris und dem selteneren Pyodermie gangraenosum, auch bekannt als ulcerative Dermatitis, zu unterscheiden, da beide ähnlich aussehen, aber unterschiedlich behandelt werden müssen. Die Wundreinigung, wie sie bei Beingeschwüren üblich ist, kann im schlimmsten Fall bei Patienten mit ulcerativer Dermatitis zu Amputationen führen. Der Bedarf an korrekter und zuverlässiger Klassifizierung von Anfang an entspricht daher ganz dem medizinischen Prinzip „primum non nocere, secundum cavere, tertium sanare“ (zuerst, nicht schaden; zweitens, vorsichtig sein; drittens, heilen).

Gibt es Partnerschaften mit KI-Startups wie OpenAI, Cohere oder Anthropic?

Im Moment nicht. Wir beobachten jedoch den Markt und freuen uns über jeden potenziellen Partner, der sich im Voraus mit den regulatorischen und ethischen Rahmenbedingungen unserer Branche vertraut gemacht hat, damit wir zeitnah einen spezifischen Anwendungsfall besprechen können – ohne zuvor nach einem suchen zu müssen. Wir haben auch eine beträchtliche Anzahl von Mitarbeitern in allen Berufsgruppen, die sich sehr intensiv mit innovativen Verbesserungen in ihrem Privatleben beschäftigen, die durch LLMs wie ChatGPT oder RPA (robotergesteuerte Prozessautomatisierung) ermöglicht werden, und die dies aktiv in ihrem beruflichen Kontext einbringen, fördern und fordern.

Entwickelt das Nuremberger Krankenhaus ein eigenes LLM (Large Language Model) oder sind Sie daran interessiert, dies zu tun?

Wie bereits erwähnt, wären wir sehr interessiert an einem LLM, das den Gesamtprozess der medizinischen Dokumentation innerhalb unserer Systemumgebung rasch und effizient gestaltet. Ich sehe die interne Entwicklung nur als Teil eines geförderten Projekts, in dem der technische Beitrag meines Krankenhauses angemessen berücksichtigt wird.

Gibt es in Ihrer Organisation Vorbehalte gegen den Einsatz von KI?

Es gibt sicherlich Vorbehalte, und die zentrale Frage ist, wie man damit umgeht. Einige Mitarbeiter haben einen gesunden Skeptizismus und bestehen darauf, die Vorteile zu sehen. Andere, die sich intensiver mit KI auseinandergesetzt haben, sehen auch die Risiken einer unüberlegten Nutzung oder die ethischen Herausforderungen dieser neuen Kategorie von Werkzeugen. Wieder andere sind sehr konkret besorgt über die Wettbewerbssituation, die sich aus der Verlagerung von Aktivitäten auf eine KI ergibt. Es ist wichtig, offen und transparent zu handeln und diese Vorbehalte nicht als unbegründet abzutun.

Bei neuen Technologien und Methoden muss immer ein Gleichgewicht zwischen manchmal übermäßig euphorischen Erwartungen und realistischen Ergebnissen gefunden werden. Dies gilt nicht nur für meine Organisation, und wir sind auf dem Weg dorthin.

Wie kann die Nutzung von KI mit dem strengen deutschen Patienten-Datenschutzgesetz (PDSG) in Einklang gebracht werden?

Das Hauptziel des PDSG ist es, dass Versicherte eine elektronische Patientenakte (ePA) haben und somit die Herrschaft über ihre medizinischen Daten und Informationen übernehmen. Dies bedeutet, dass neben medizinischen Berichten, Befunden oder Röntgenbildern auch eingenommene Medikamente, elektronische Rezepte, Impfunterlagen oder andere medizinische Dokumente an einem Ort gespeichert werden, und der Patient allein entscheidet, was mit seinen Daten geschieht. In jedem Einzelfall kontrolliert der Patient, wer Zugang zu seiner ePA hat und zu welchem Zweck. Dies geschieht über eine App auf ihrem Smartphone oder Tablet. Die ePA wird innerhalb der Telematikinfrastruktur von Ärzten, Krankenhäusern oder Apothekern aufgerufen, und wenn ein KI-Prozess dort genutzt werden soll, muss der Patient informiert und seine Zustimmung eingeholt werden. Gibt der Patient diese Zustimmung und sind alle Datenschutzkriterien, wie z.B. Zweckbindung im KI-Verfahren, erfüllt, sollte der Einsatz von KI problemlos möglich sein.

Gibt es Ängste, dass Patientendaten durch den Einsatz von KI geleakt werden könnten?

Jeder Benutzer einer ePA innerhalb der zugrunde liegenden Telematikinfrastruktur, sei es ein Arzt, ein Krankenhaus oder ein Apotheker, ist dafür verantwortlich, die Patientendaten, die er verarbeitet, zu schützen. Jeder dieser Benutzer muss sicherstellen, dass keine Patientendaten gelangen oder die Telematikinfrastruktur verlassen können. Zu diesem Zweck muss der Anbieter einer Softwarelösung, die Patientendaten mit KI verarbeitet, vertraglich vom Nutzer verpflichtet werden, die technischen und gegebenenfalls organisatorischen Bedingungen zu schaffen, um sicherzustellen, dass ein solches Leck nicht möglich ist. Solche Ängste sind nicht unbegründet, insbesondere wenn beispielsweise aus Zeit- oder Kostengründen keine technischen und organisatorischen Sicherheitsmaßnahmen getroffen werden.

Welche Wünsche haben Sie in Bezug auf KI? Was sollte sie für Patienten und Krankenhäuser besser machen?

KI-gestützte Werkzeuge müssen alle Datenverarbeitungsprozesse im Krankenhaus effizienter machen und immer sicher, vertrauenswürdig und bindend für Patienten und medizinisches Personal bleiben. Mein unmittelbares Ziel für KI wäre es, die Belastung des Pflege- und Verwaltungspersonals so schnell wie möglich zu verringern. Mehr Zeit am Patientenbett kommt den Patienten direkt zugute, ebenso wie schnellere Planungszeiträume in der Verwaltung, z.B. für die optimale Besetzung einer Station. Der erste Fokus der KI muss auf den Zeitfressern der Dokumentation, der administrativen Bürokratie und der Planung liegen. Der zweite Schritt wären medizinische Anwendungen wie genauere Diagnosen, schnellere Auswertungen komplexer Befunde (Multimorbidität, Polypharmazie) und eine größere Effizienz bei der Individualisierung der Therapie mit besserer Wirksamkeit und gleichzeitigem Schutz des Patienten.

„Zuerst, nicht schaden; zweitens, vorsichtig sein; drittens, heilen.“