Dario Antweiler ist Teamleiter Healthcare Analytics und Data Scientist am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS in Sankt Augustin bei Bonn. Das Institut erforscht Künstliche Intelligenz und Data Science quer durch alle Branchen. Antweilers Team befasst sich speziell mit Gesundheitsdaten. Er hat einen Master-Abschluss in Mathematik an der Universität in Köln gemacht und promoviert aktuell zur KI im Gesundheitswesen. Im Interview nimmt er Stellung zum Einsatz von KI im Krankenhaus und zum Krankenhaus der Zukunft.

Dario Antweiler: Es gibt im Vergleich zu anderen Branchen viele Herausforderungen, die anders sind. Vor allem ist das Gesundheitswesen hochregulativ. Es gibt sehr viele Gesetze und eine enorme Varietät an Stakeholdern und Interessengruppen. Zudem ist die Branche sehr dynamisch. Technologie und Gesellschaft prallen aufeinander. Und es gibt eine große Komplexität durch Entwicklungen, beispielsweise neue Forschungen, neue Erkenntnisse über den Körper und die Zusammenhänge.

Es gibt super viel Spannendes, sonst würde ich nicht in diesem Bereich forschen und promovieren. Vieles wird erforscht, ist aber noch nicht so erfolgreich in die klinische Anwendungsrealität in Deutschland übertragen worden. Das Potenzial ist riesig, aber wir haben einen Zustand des Gesundheitssystems, der nicht komplett KI-ready ist, weil man die Digitalisierung, Interoperabilität und interprofessionelles Zusammenarbeiten einfach jahrelang nicht ausreichend fortentwickelt hat.

Ich würde sagen, die wenigsten haben das. Wie wir beobachten, gibt es einen Zwei-Klassen-Unterschied zwischen forschenden Unikliniken, Maximalversorgern und dem Rest der Versorger. Aus anderen Branchen wissen wir: Man braucht zwei Arten von IT. Man braucht eine, um das tägliche Business zu erledigen, und man braucht eine IT für Change-Prozesse, für Transformation, für Wandel. Gerade Themen wie Digitalisierung und KI laufen nicht so nebenher. Man muss dafür Projektteams haben, man braucht Projektmanagement, man braucht Change-Management, man muss Innovationsmanager haben, Data Scientists und Leute, die das anschließend auch umsetzen. Wenn ich mir Studien ansehe, wie viele IT-Stellen pro 100 Betten die meisten Krankenhäuser haben, dann wundere ich mich nicht, dass sie kaum Zeit finden, neue Dinge anzugehen und ich glaube, das KHZG erfordert noch einen zusätzlichen Aufwand. Das Geld ist wunderbar und notwendig, aber die Umsetzung ist schwierig und die Folgefinanzierung noch offen.

Die eigentliche Frage muss lauten: Gelingt es uns, Software so zu designen, dass sie den Menschen bei ihrer Arbeit hilft? Häufig werden die Anwenderinnen und Anwender nicht von Anfang an in den Prozess einbezogen.

Fragt man Bedarfe ab und erstellt darauf aufbauend einen Prototypen und fragt dann erneut: Ist es das, was benötigt wird? Wenn man das, falls nötig, mehrmals wiederholt, findet man heraus, wie Bedarf und Prozess wirklich aussehen. Das garantiert, dass das Ergebnis am Ende akzeptiert und genutzt wird.

Die Zeit muss man sich nehmen. In manchen Fällen gibt es die Zeit nicht oder die Zeit kann nicht bezahlt werden. Ich kenne die Zahlen für allgemeine Projekte nicht, aber KI-Projekte scheitern geschätzt zu etwa 70 Prozent. Mit Scheitern meine ich: Lösungen werden nicht über die Projektlaufzeit hinaus längerfristig im Alltag produktiv eingesetzt. Sehr wenige KI- und auch Digitalisierungsprojekte erreichen dieses Ziel und das liegt unter anderem daran, dass man sich die Zeit am Anfang nicht genommen hat. Das muss man einpreisen. Wenn ich mir für 200.000 Euro ein neues System gönne, dann kann ich nicht nur 2.000 Euro für die Einbeziehung der Nutzer einplanen.

Wir haben einen KI-Readiness-Check mit 85 Fragen anhand von sechs Dimensionen entwickelt. Das Ergebnis sind vier Stufen, von Basic KI-ready bis zu vollständig KI-ready. Es gibt nur eine Hand voll Krankenhäuser in Deutschland, die wohl vollständig KI-ready sind. Das hängt auch davon ab, ob eine IT-Strategie besteht und konsequent umgesetzt wurde, um die richtigen Grundlagen zu schaffen, oder ob jede Systementscheidung einzeln getroffen wird und beispielsweise die Interoperabilität keine Rolle spielt.

Es gibt sehr, sehr viel, was mich beeindruckt. Man kann das entlang der Krankenhaus-Wertschöpfungskette unterteilen – also Anamnese, Diagnose, Therapie und Entlassung oder Dokumentation. Man kann das auch entlang von Technologien tun: Sprache, Text, Bild, strukturierte Daten. Mich begeistern die Klassiker wie Bildverarbeitung in der Radiologie. Dann kam die Bildverarbeitung in der Pathologie, wo automatisiert Zellen gezählt und erkannt werden können, bis hin zu automatischer Wunddetektion, Wunddokumentation, auch bildbasiert. Oder Verfahren in der Operationstechnik: Da gibt es Verbindungen zu Technologien wie AR/VR und Robotik. Es ist spannend, wenn man Dinge kombiniert. Aber auch so etwas wie ein intelligenter Fragebogen, der dazu führt, dass man eine Differentialdiagnostik macht. Wenn man sich überlegt, wie viele Leute in der Notaufnahme falsch sind und sie dadurch verstopfen, oder wie viele Leute nicht früh genug zum Hausarzt gehen! Das sind enorme Kosten, die das Gesundheitswesen trägt und die man verändern könnte.

Die textbasierten Techniken sind nahe an meiner eigenen Forschung. Ich war überrascht, wie viel Text an allen Enden des Gesundheitswesens produziert und konsumiert wird. Berge an Text werden vielfach mit Textbausteinen zusammengeklickt und überflogen, wobei Dinge übersehen werden. Der Informationsverlust ist groß. Dabei sind die Informationen häufig am Anfang strukturiert, werden dann unstrukturiert und am Ende versucht jemand, wieder strukturierte Daten daraus zu generieren. Das kann man einfach besser machen.

Der Fokus liegt auf strukturierten – alles, was irgendwie in tabellarischer Form vorkommt – und auf Textdaten. Es geht vielfach darum, aus unstrukturierten Texten Informationen zu extrahieren. Der Patient kommt mit hunderten von Zetteln und der Arzt hat im Schnitt sieben Minuten Zeit, da kann er sich nicht alles durchlesen. Da vieles digital vorliegt, kann eine KI die Texte durchgehen und für den Arzt aufbereiten: Allergien, Vorerkrankungen, Vormedikationen. Ein anderer Anwendungsfall ist die Entlassung. 150 Millionen Arztbriefe werden jährlich in Deutschland geschrieben und drei bis vier Stunden täglich verbringen Ärzte damit. Wir arbeiten an einer semiautomatischen Erstellung. Semiautomatisch, weil am Ende der Arzt immer noch bestätigen muss, dass alles korrekt ist. Aber viel von der manuellen, repetitiven Tätigkeit entfällt. Die Ärzte reagieren sehr positiv und fragen, wann die Lösung verfügbar ist. Allerdings gibt es keinen Standard für Arztbriefe und die Ärztinnen und Ärzte wollen wohl auch gar keinen haben. Da kann man als Informatiker nicht viel machen, da muss sich eine Abteilung einfach einigen: Nutzen wir jetzt eine Standardvorlage oder nicht?

Konkret forschen wir auch am Vertrauen in die Technik. Vertrauen entsteht beispielsweise durch Transparenz und die Interpretierbarkeit von Systemen. Was wir nicht verstehen, mögen wir nicht – wir wissen nicht, wie ein Auto im Detail funktioniert, aber wir haben eine grobe Vorstellung. Man kann Vertrauen in Systeme erzeugen oder verlieren, und darüber gilt es, sich Gedanken zu machen. Fragt man, ob ein System erklären soll, wie Entscheidungen getroffen werden, wird das immer bejaht. Spannend aber: Bietet das System diese Information dann an, wird sie relativ wenig genutzt. Der Anwender weiß also nicht wirklich, was er will – das ist ein Mantra in der Usability-Forschung und im Gesundheitswesen nicht anders.

Es ist aktuell zu empfehlen, dass man das in Kollaboration macht. Es gibt die moralisch-ethische Frage: Was ist eigentlich mit den Mitarbeitenden? Verlieren sie ihren Job, was machen sie ansonsten, kann man ihre Tätigkeiten vollständig automatisieren, wie wirkt sich das auf ihr Selbstwertgefühl aus? Das sind relevante Fragen. Aber selbst, wenn man sie vernachlässigt: KI ist fast nie zu 100 Prozent korrekt. Daraus ergibt sich eine Kausalkette: KI macht Fehler, Fehler haben Folgen und für Folgen muss jemand haften. Aktuell haftet kaum ein Software-Hersteller für Entscheidungen, die auf Basis seiner Software gemacht werden. Das heißt, die Haftung liegt weiterhin beim Arzt. Um den herauszudividieren, müsste jemand anderes die Haftung übernehmen. Daraus ergibt sich schon, dass ein Unterstützungs-System eigentlich immer die richtige Wahl ist. Aber besonders interessant wird es natürlich an dem Punkt, an dem man die humane Fehlerrate misst und mit der KI-Fehlerrate vergleicht: Die KI liegt bei vier, der Mensch bei fünf Prozent Fehlern. Dann steht man plötzlich vor der ethischen Frage: Sind wir nicht verpflichtet, auf das KI-System umzuschalten, weil es ja die Behandlungsqualität verbessert?

Es geht zum allergrößten Teil um einen Ersatz des Mangels. Man muss über die Automatisierung im Gesundheitswesen nicht diskutieren, man kommt gar nicht drum herum. Die Arbeitsmigration gelingt nicht in dem Ausmaß, um die Menschen zu ersetzen, die in Rente gehen werden. Natürlich gibt es Aufgaben, die nicht mehr benötigt werden, gerade assistierende Tätigkeiten: Menschen, die schreiben oder auf Zuruf etwas bedienen. In Zukunft werden dafür weniger Leute gebraucht, aber diese Personen benötigen dann eine andere Beschäftigung.

Wir haben sechs Dimensionen, entlang derer wir ein Krankenhaus bewerten. Beim Personal geht es um die notwendigen Qualifikationen, also digitale Gesundheitskompetenz. Können die Beschäftigten die spezifischen Geräte und Technologien nutzen? Zweitens haben wir die Technik: Gibt es Systeme, die die vorhandenen Daten verarbeiten, und sind sie in eine IT-Struktur integriert? Drittens die Infrastruktur: Sprechen Systeme in interoperabler Sprache miteinander? Sind Daten verfügbar? Zum Beispiel muss es eine sichere Kommunikation der Mitarbeitenden geben. Wenn diese zu Hause arbeiten, müssen sie VPN-Zugriff haben. Wenn es ein Tumorboard gibt, dann müssen die Informationen dort eingestellt werden und zur Verfügung stehen. Viertens gibt es die Dimension der Daten. Da muss garantiert werden: Jede Software, jede Hardware im Krankenhaus muss dieselbe Sprache sprechen. Es kristallisiert sich gerade der FHIR-Standard als der wichtigste heraus, und darauf sollte sich jedes Krankenhaus bei Anschaffungen einstellen. Fünftens gibt es die Organisation. Da geht es darum: Gibt es ein Innovationsmanagement, gibt es eine KI-Strategie, die auch gelebt wird und allen Leuten bekannt ist? Sechstens ist die Sicherheit zu beachten: Ist Informationssicherheit geregelt? Aber dazu gehören auch Themen wie Medizinprodukte-Sicherheit, das ist bei KI-basierten Medizinprodukten zumeist schwieriger.

Die Menschen haben sehr viel Erfahrung, sehr viel Wissen. Damit werden Menschen ein wichtiger Faktor bleiben – „a fool with a tool is still a fool“ –, und ein Experte bleibt auch mit KI ein Experte.

Sowas wie Empathie werden wir nicht durch KI hinbekommen, nicht in den nächsten zehn Jahren. Simulierte Empathie sicherlich; es gibt ja schon die Roboter-Robbe, die man streicheln kann und Leute klinisch nachgewiesen glücklicher macht, aber damit geht schon ein enormer Aufwand einher. Prognosen sind aber schwierig, denn vor 25 Jahren wurden KI und Robotik gleichgesetzt und man hat sich auf Robotik konzentriert. Sprache wurde als nicht lösbar angesehen. Wie sich aber zeigt: Sprache kann man sehr gut lösen, und Robotik ist noch längst nicht im Alltag angekommen.