Thesen und Forderungen zur Künstlichen Intelligenz im Krankenhaus

Als Stimme der deutschen Krankenhäuser steht die Deutsche Krankenhausgesellschaft (DKG) für die Krankenhausträger und repräsentiert als Dachverband die gesamte Breite der Krankenhausinteressen. In einem Ende Oktober veröffentlichten Positionspapier zu Künstlicher Intelligenz (KI) und der begleitenden Pressemitteilung fordert die DKG einen klaren Fahrplan für den sicheren Einsatz von KI in Krankenhäusern. Unter dem Titel „Nutzung von Künstlicher Intelligenz im Krankenhaus“ werden verschiedene Thesen und die Forderungen der Krankenhäuser herausgearbeitet.

„Künstliche Intelligenz verändert nicht nur rasant unser Alltagsleben, sie wird auch immer mehr zum transformativen Faktor zur Weiterentwicklung der Medizin und der Gesundheitsversorgung. Eine erfolgreiche Implementierung von KI erfordert klare rechtliche Rahmenbedingungen, eine breite, interoperable Datenbasis, KI-fähige Infrastrukturen, effektive Vernetzung und gezielte Unterstützungsprojekte für Kliniken“, erklärt die stellvertretende Vorstandsvorsitzende der DKG, Prof. Dr. Henriette Neumeyer.

Das lesenswerte Positionspapier beinhaltet eine sehr detaillierte Betrachtung des aktuellen Stands im Hinblick auf die Krankenhauslandschaft und die weiteren relevanten Akteure. Den Schwerpunkt bilden fast dreißig einzelne Thesen und Forderungen, die in acht Kategorien gruppiert sind und Klarheit und Sicherheit im Umgang mit KI-Systemen bringen sollen: allgemeine sowie patientenbezogene Thesen und Forderungen, Thesen und Forderungen zu KI im Krankenhaus, zu Unterstützungsstrukturen und Vernetzung, zur Infrastruktur, zu Daten und Interoperabilität, zu Datenschutz und Regulatorik und Thesen und Forderungen zur Förderung.

Meldungen über Fortschritte in Entwicklung und Anwendung Künstlicher Intelligenzen gehören inzwischen zum Alltag. Zunehmende Leistungsfähigkeit und die Verfügbarkeit großer Datenmengen haben neue Möglichkeiten für den Einsatz auch im Gesundheitswesen geschaffen. Meist geht es dabei um Gesundheit und Versorgung der Patienten – Diagnostik, Therapieplanung, Triage oder die Überwachung von Mediakations- und Labordaten –, aber auch um die Optimierung patientenferner Aufgabenfelder in der Administration. Ressourcen lassen sich so effizienter verwalten, kaufmännische Aufgaben unterstützen. Dennoch darf die technische Lösung nicht von der persönlichen Beziehung zwischen Patienten und Arbeitenden im Gesundheitswesen ablenken.

Damit es sich bei diesen Entwicklungen nicht um Aktionismus, sondern um geführte Aktionen handelt, gibt der Gesetzgeber in Deutschland und europaweit gezielte Impulse. Die KI-Strategie (beispielsweise der „BMBF-Aktionsplan Künstliche Intelligenz“ des Bundesministeriums für Bildung und Forschung) zielt darauf ab, eine vertrauenswürdige KI „made in Europe“ zu fördern und die technologische Souveränität zu stärken: Weiterentwicklung der KI-Infrastruktur, Ausbau von Rechenkapazitäten, Sicherstellung der Datenverfügbarkeit und Förderung entsprechender Fachkräfte; KI-Technologien sollen unter anderem im Gesundheitswesen gezielt eingesetzt werden. Gefördert wurden entsprechende Vorhaben bereits im Rahmen des Krankenhauszukunftsgesetzes (KHZG), das die Einrichtung von teil- oder vollautomatisierten klinischen Entscheidungsunterstützungssystemen vorgibt. Die Förderrichtlinie führt explizit KI-gestützte Systeme an, notwendige KI-Infrastrukturen und sonstige Arten von KI-Anwendungen werden jedoch nicht behandelt.

Auf europäischer Ebene ist im vergangenen Jahr die Verordnung über Künstliche Intelligenz (KI-Verordnung) in Kraft getreten – laut Pressemitteilung der Europäischen Kommission die weltweit erste umfassende Rechtsvorschrift im Bereich Künstlicher Intelligenz. Die Einführung von KI-Technik wird gefördert und ein günstiges Umfeld für Innovation und Investitionen geschaffen, zudem soll in der EU entwickelte und verwendete KI vertrauenswürdig sein und Vorkehrungen zum Schutz der Grundrechte der Menschen bieten. Im Kern der Verordnung gibt es einen risikobasierten Ansatz: keine besonderen Verpflichtungen für KI-Systeme mit minimalem Risiko, strenge Anforderungen an Sicherheit, Transparenz und Überwachung für solche mit einem hohen Risiko. Wird das Risiko als unannehmbar eingestuft, werden entsprechende Systeme verboten. Auch die Anwender – also Krankenhäuser – sind von der KI-Verordnung unmittelbar betroffen. Sie müssen sicherstellen, dass Mitarbeitende dazu in der Lage sind, entsprechende Systeme sicher und verantwortungsbewusst einzusetzen – ein umfangreiches und dauerhaftes Investment in Schulungen und Weiterbildungen.

Trotz bereits produktiv genutzter KI-Anwendungen und des erkannten, großen Potenzials bestehen noch erhebliche Hürden für eine umfassende Integration in den Klinikalltag. Die Deutsche Krankenhausgesellschaft sieht daher Bedarf an einem strategischen, koordinierten und finanziell abgesicherten Ansatz und hat eine Liste an Thesen und Forderungen zur Nutzung von KI im Krankenhaus erstellt, die die Kernthemen sowie weitere wichtige Fragestellungen betreffen.

Allgemeine Thesen und Forderungen
KI-Technologien ermöglichen rasche, fundierte Entscheidungen und heben die Patientenversorgung auf ein neues Qualitätsniveau.

KI-Anwendungen müssen ethisch und medizinisch gesichert entwickelt werden, ihre Nutzung muss ethischen Grundsätzen folgen; die Ausgestaltung der europäischen KI-Verordnung muss dies sicherstellen.

Künstliche Intelligenz kann bei bürokratischen Pflichten entlasten, ihre Nutzung darf jedoch mit neuer Bürokratie (Dokumentationspflichten) verbunden sein.

Patientenbezogene Thesen und Forderungen
Bei der KI-Nutzung müssen die Patienten im Fokus stehen und von der Anwendung profitieren.

Durch KI kann Zeit für mehr Kontakt zwischen Behandelnden und Patienten freigesetzt werden; patientenorientierte Versorgung ist dabei Maßgabe, nicht wirtschaftliche Zielsetzungen.

Patienten benötigen Digitalkompetenz im Bereich Künstlicher Intelligenz. Schulische Lehrpläne müssen dahingehend angepasst werden, öffentliche Plattformen (wie die von Krankenkassen) entsprechende Materialien zur Verfügung stellen.

Zugang zu KI-gestützten Behandlungsmethoden muss diskriminierungsfrei allgemein sichergestellt sein; zu finanzieren ist dies über die gesetzlichen und privaten Krankenversicherungen.

Thesen und Forderungen zu KI im Krankenhaus
KI kann administrative und logistische Prozesse optimieren und von Bürokratie und Routineaufgaben entlasten und dadurch einen Beitrag zur Bekämpfung des Fachkräftemangels leisten. Sie ermöglicht mehr Zeit für die Interaktion mit den Patienten.

Die Qualität von KI-Anwendungen muss kontinuierlich evaluiert und verbessert werden, insbesondere bei selbstlernenden Algorithmen. Auch Fragen zum Zusammenspiel von Menschen und Maschine müssen weiter erforscht werden.

Die Therapiehoheit der Behandelnden in Krankenhäusern muss geschützt werden – insbesondere, wenn die Behandlung von Vorschlägen der KI abweicht (Rechtfertigungsdruck).

Ethische, rechtliche und fachliche Grundlagen der KI-Nutzung (auch Risiken und Einschränkungen) sollten in den Studien- und Lehrplänen von Ärzten, Pflegekräften und Gesundheitsfachberufen berücksichtigt werden.

Thesen und Forderungen zu Unterstützungsstrukturen und Vernetzung
Unterstützungsprojekte (KI-Hubs) sollten auf Landes- oder Bundesebene eingerichtet werden und Versorgern Hilfestellung bei der Entwicklung eigener KI-Strategien und deren Umsetzung geben.

Medizininformatik-Initiative (MII) und Netzwerk Universitätsmedizin (NUM) bilden ein für die Weiterentwicklung der medizinischen Forschung und die verbesserte Nutzung von Gesundheitsdaten relevantes Ökosystem. Diese Initiativen müssen um weitere Krankenhäuser und Leistungserbringer erweitert werden, sodass umfassende Daten zur Verfügung stehen.

Thesen und Forderungen zur Infrastruktur

Krankenhäuser müssen Infrastrukturen schaffen, die heutige und zukünftige KI-Anwendungen unterstützen können; aufgrund der Rechenleistung werden diese typischerweise in der Cloud betrieben. Für diese Transformation müssen rechtliche Rahmenbedingungen und Leitplanken für zukunftssichere KI-fähige Infrastrukturen definiert sein.

Krankenhäuser müssen auch wirtschaftlich fähig sein, notwendige KI-Infrastrukturen einzuführen und zu betreiben. Mit Fokus auf offene und gemeinsame Infrastruktur sollten entsprechende Fördermittel zur Verfügung gestellt werden (KHZG 2.0).

Thesen und Forderungen zu Daten und Interoperabilität
Forschung kann durch interoperable, hochqualitative Daten (beispielsweise Versorgungsdaten aus dem stationären und ambulanten Bereich) verbessert werden. Eine langfristige Analyse von Krankheitsverläufen wird ermöglicht. Krankenhäuser müssen für den Mehraufwand der Bereitstellung finanziell entschädigt werden.

Trainingsdaten für KI-Anwendungen müssen die dem Einsatzzweck entsprechende Diversität abbilden. Verzerrung im Hinblick auf Geschlecht, Alter, ethnische Herkunft etc. kann dazu führen, dass trainierte Modelle nicht in der gewünschten Qualität angewendet werden können.

Klinische Register müssen technisch und semantisch vereinheitlicht werden (auf Basis einer verbindlichen Normung für Gesundheitsdaten), um eine effektive Nutzung zu ermöglichen und Umsetzungsaufwände für Krankenhäuser zu reduzieren.

Die Nutzung von Sekundärdaten für klinische Studien muss klar geregelt werden. Wer von diesen Daten profitiert, sollte Ergebnisse in geeigneter Form zurückführen.

Thesen und Forderungen zu Datenschutz und Regulatorik
Um KI-Potenziale im Gesundheitswesen voll auszuschöpfen, ist eine umfassende Einwilligung zur Nutzung pseudonymisierter Gesundheitsdaten zu Forschungs- und Entwicklungszwecken von KI-Anwendungen notwendig. Mit der umfassenden Einwilligung willigen Patienten einmalig (anstatt für jede Forschungstätigkeit einzeln) in die breite Nutzung ihrer Daten für wissenschaftliche Zwecke ein. Transparenz und jederzeitiger Widerruf der Einwilligung müssen gewährleistet sein, um Vertrauen in den verantwortungsvollen Umgang mit Daten zu stärken.

KI-Anwendungen sind durch die strengen Datenschutzvorgaben im Krankenhaus geschützt. Auf nationaler und EU-Ebene müssen geeignete Leitlinien und Vorgaben sicherstellen, dass Patienten auf die Qualität und Zuverlässigkeit der KI-Anwendung vertrauen können.

Rechtliche Rahmenbedingungen für den rechtssicheren Einsatz und Betrieb von KI in Krankenhäusern müssen geklärt werden. Pflichten der Krankenhäuser ergeben sich aus der KI-Verordnung. Offene Fragen betreffen die Haftung bei nicht erklärbaren (non-explainable) Algorithmen: Wo endet die Verantwortung des Herstellers, wo beginnt die Haftung des Krankenhauses?

Die umfassenden Anforderungen an KI-Kompetenzen müssen konkretisiert und von Softwareschulungen abgegrenzt werden. Dieses neue Thema muss in der Krankenhausfinanzierung berücksichtigt werden.

Ein Verlust an Qualifikation der KI-Anwender durch die Übertragung von Aufgaben an die KI muss vermieden werden. Die Software sollte die Verbesserung der Qualifikation auch im Sinne der gesetzlich geforderten Weiterbildung unterstützen. Zuständige Behörden sollten entsprechende Richtlinien und Checklisten für die Entwicklung von KI-Anwendungen schaffen.

Im Hinblick auf den Europäischen Gesundheitsdatenraum soll der nationale Gesetzgeber Vermittlungsstellen einrichten, die die Datenbereitstellungspflichten der Dateninhaber für bestimmte Bereiche wahrnehmen. Dateninhaber müssen Klarheit darüber haben, welche Datensätze wie beschrieben werden müssen.

Thesen und Forderungen zur Förderung
Generative KI hat als disruptive Technologie das Potenzial, Versorgungsprozesse zu unterstützen und zu verändern. Ihr tatsächlicher Nutzen muss sich jedoch erst erweisen, entsprechende Projekte sollten prioritär gefördert werden.

KI bietet große Potenziale im Hinblick auf die Analyse komplexer Genomdaten und anderer Biomarker. Vor dem Hintergrund des Modellvorhabens Genommedizin sollten daher KI-Projekte im Bereich der personalisierten Medizin gefördert werden. Ethische Fragen, wie solche zum Umgang mit genetischen Risiken und die Vermeidung von Risikoselektion, müssen besonders berücksichtigt werden; die DKG setzt sich dafür ein, dass Zwangssituationen, beispielsweise vorgeburtliche Diagnostik, ausgeschlossen werden.