Künstliche Intelligenz – Fokus Intensivmedizin

Serie Junge Anästhesie

Der demografische Wandel, gekennzeichnet durch eine weitere Zunahme der älteren Bevölkerungsanteile und die permanent fortschreitende Spezialisierung der Medizin, bedingt durch den exponentiellen Wissenszuwachs, bringt die Gesundheitssysteme der Industriestaaten an deren personelle und finanzielle Kapazitätsgrenzen. Der Ruf nach Effizienzsteigerung wird dabei immer lauter und die zunehmende Arbeitsverdichtung auf der Intensivstation (ICU) immer mehr zur biopsychosozialen Herausforderung aller Beteiligten [1]. Ein Ansatz zur Effizienzsteigerung trotz bestehender personeller Ressourcenknappheit [2] ist die Digitalisierung. Einen Schritt weiter geht der Ansatz der künstlichen Intelligenz (KI). Ziel dieses Artikels ist es, in komprimierter Form einen evidenzbasierten Überblick zum Thema KI mit Schwerpunkt auf Intensivmedizin zu geben.

© Klinikum Wels-Grieskirchen

von Dr. Paul Köglberger, PhD, LL.M.^{1, 2, 3}

1 Institut für Anästhesiologie und Intensivmedizin, Klinikum Wels, Wels, Österreich
2 Gemeinsame Einrichtung für Internistische Notfall- und Intensivmedizin, Department für Innere Medizin, Medizinische Universität Innsbruck, Innsbruck, Österreich
3 ARGE Junge Anästhesie, ÖGARI, Wien, Österreich

Ökonomie, Ökologie und Regulative

Der Begriff künstliche Intelligenz wird heterogen verwendet und ist nicht einheitlich definiert, bekommt umfassende weltweite Aufmerksamkeit und erlebt eine Renaissance durch eine deutliche Zunahme der Rechenleistung, verknüpft mit der Erwartung einer sich revolutionär entwickelnden Technologie, die ubiquitäres Anwendungspotenzial haben soll. So geht beispielsweise das Europäische Parlament von einem allgemeinen Anstieg der Arbeitsproduktivität durch den Einsatz von KI zwischen 11 und 37 % bis 2035 aus und einer damit einhergehenden weiterführenden hochgradigen Automatisierung der Arbeitsplätze in den OECD-Ländern. Zudem soll durch den KI-Einsatz bis 2030 eine Verringerung der globalen Treibhausgasemissionen zwischen 1,5 und 4 % erreicht werden [3]. 61 % der europäischen Bevölkerung sind KI und Robotik gegenüber positiv eingestellt, jedoch sagen 88 %, dass diese Technologien mit Vorsicht eingesetzt werden sollten [4]. Ein gesetzliches Regulativ für KI gibt es weltweit bisweilen nicht. Seitens der Europäischen Union (EU) gibt es seit 2021 einen Vorschlag für eine etwaige Verordnung [5]. Rezent wurde eine Verhandlungsposition zu einem Gesetz über KI durch die Abgeordneten des Europäischen Parlaments angenommen. Diesbezügliche Gespräche mit den EU-Mitgliedstaaten zur endgültigen Ausgestaltung des Gesetzes sollen bis Ende des Jahres zu einem Abschluss kommen. Zentraler Regelungszweck der Gesetzgebung soll ein menschenzentrierter und ethischer Entwicklungsprozess für KI-Anwendungen sein. Dabei wird als zentraler Bestandteil ein Verbot von KI für biometrische Überwachung, Emotionserkennung und vorausschauende Polizeiarbeit sowie ein Recht auf Beschwerde über KI-Systeme gefordert. Weiters soll sichergestellt werden, dass KI-Systeme von Menschen überwacht werden sowie sicher, transparent, nachvollziehbar, nichtdiskriminierend und umweltfreundlich sind. Überdies solle eine zeitlose und einheitliche sowie technologieneutrale Definition von KI geschaffen werden [6, 7]. Die USA sehnen sich hinsichtlich einer KI-Regulierung nach einer Zusammenarbeit mit Europa, während China dem Anschein nach den Weg der Regelung durch staatliche Aufsicht möglichst für sich selbst beschreiten will. Vergleicht man die USA und die EU hinsichtlich des Regelungsbedürfnisses, scheinen die USA bisweilen nicht um eine so breite und umfassende Regulierung der KI-Technologie [8] bestrebt zu sein. Dies lässt sich am ehesten damit begründen, dass man den eigenen innovativen Fortschritt im internationalen KI-Vorreiterwettstreit möglichst fördern und nicht durch eine mögliche Überregulation potenziell beeinträchtigen will [9].

Praxisorientierte Anwendungspotenziale

Aufgrund der zunehmenden personellen Ressourcenknappheit und des ökonomischen Drucks in der Intensivmedizin sollte dennoch ein Qualitätsverlust mit folglich negativer Outcome-Entwicklung seitens der Patient:innen tunlichst vermieden werden. Ein möglicher Lösungsansatz besteht in der Effizienzsteigerung durch Rationalisierung [10]. Da die Intensivmedizin aufgrund ihres hohen Datenaufkommens und Digitalisierungsgrads mit elektronischer Patientenakte und Fieberkurve sowie digitalem Monitoring von Vitalparametern (Puls, Blutdruck, EKG etc.), Maschinendaten (Beatmung, Nierenersatztherapie etc.), Laborparametern etc. geradezu für KI-Anwendungen prädestiniert ist, könnte eine Effizienzsteigerung mit dem Einsatz von KI erreicht werden [11]. Folglich sollen ausgewählte Studien und Themenfelder mit zukünftigem Anwendungspotenzial für den klinischen Einsatz umrissen werden.

Die in der Intensivmedizin verwendeten Monitoringsysteme haben Alarmgrenzen hinterlegt, die das medizinische Personal bei einer Wertabweichung von der Norm mittels akustischer und visueller Signale informiert. Dabei sind diese Alarme aus diversen Gründen nicht immer gerechtfertigt bzw. liegt nicht immer Handlungsbedarf vor, dennoch bedarf es der Aufmerksamkeit des Personals, was sich wiederum in einer reduzierten Arbeitseffizienz niederschlägt. Zudem führt eine hohe Anzahl von ungerechtfertigten Überwachungsalarmen zu einer Alarmmüdigkeit [12], was zur Missachtung korrekter Alarme führt und die notwendige medizinische Hilfe verzögern kann. Weiters kann die begrenzte Fähigkeit des Menschen, komplexe Informationen aus einer Vielzahl von Informationsquellen diverser Gerätschaften zu verarbeiten, das Erkennen einer Verschlechterung des Patientenzustands limitieren. Mithilfe von maschinellem Lernen wurde dahingehend in einer rezenten Studie ein Frühwarnsystem vorgestellt, das mit Messwerten von mehreren Organsystemen aus einer hochauflösenden Datenbank zu 90 % ein Kreislaufversagen auf der Intensivstation in Testdatensätzen voraussagen konnte. In 82 % der Fälle sogar mehr als zwei Stunden im Voraus. Eine Weiterentwicklungen dieses Modells für die klinische Praxis könnte es ermöglichen, dass Patient:innen mit einem Risiko für Kreislaufversagen frühzeitig identifiziert werden können, und dies mit einer deutlich geringeren Fehlalarmrate als herkömmliche schwellenwertbasierte Systeme [13]. Durch die Früherkennung des Kreislaufversagens könnte das Patient:innen-Outcome verbessert und Zeit für Überwachungstätigkeiten seitens des medizinischen Personals eingespart werden.

Weitere Krankheitsbilder, die mittels künstlicher Intelligenz basierend auf maschinellem Lernen hinsichtlich Diagnostik, Therapieoptimierung und Outcome-Verbesserung zur potenziellen Unterstützung in der klinischen Routine beforscht wurden, sind das akute Atemnotsyndrom [14], die Sepsis [15,16,17], die akute Nierenschädigung [18] und das postoperative Delir [19]. Zudem wurden die KI-gestützte Patientenlenkung in der Notfallaufnahme [20] sowie die Ernährungs- und Stoffwechselunterstützung [21] und die Ultraschall-Bildgebung [22, 23] in der Intensivmedizin untersucht. Die wesentliche methodologische Gemeinsamkeit dieser Forschungsansätze ist die Verwendung retrospektiver routinemäßig erhobener Daten zur Generierung von Vorhersagemodellen, die die klinische Entscheidungsfindung in der Intensivmedizin zukünftig unterstützen sollen.

Entscheidend für die Interpretation des Anwendungspotenzials sind der Reifegrad der KI sowie vorliegende Daten über eine externe Validierung der Untersuchungsergebnisse. Weiters ist eine gute Datenqualität sowie -dichte Voraussetzung für valide und reproduzierbare Forschungsergebnisse [12]. Generell ist zu beobachten, dass die überwiegende Mehrheit der entwickelten ICU-KI-Modelle in der Test- und Prototypenphase stecken bleibt [11]. Derzeit ist kein kommerzielles KI-System zu vorherig erwähnten Krankheitsbildern und Themenfeldern für die klinische Routine verfügbar, weswegen hier lediglich KI-Anwendungspotenziale aufgezeigt werden können. Dennoch ist anzunehmen, dass sich obige KI-Ansätze weiterentwickeln und in mehr oder weniger naher Zukunft für die klinische Routine in Form von Anwendungssoftware zur Verfügung stehen werden.

Eine bereits verfügbare, weltweit öffentlich zugängliche und bekannte KI-Anwendung ist der Chatbot, ChatGPT (Generative Pre-trained Transformer) von OpenAI (San Francisco, CA, USA) [24, 25]. Die derzeitigen potenziellen Einsatzmöglichkeiten von ChatGPT/GPT‑4 in der Intensivmedizin sind vielfältig und reichen von der Wissenserweiterung, dem Gerätemanagement, der Unterstützung bei der klinischen Entscheidungsfindung bis zur Unterstützung von Frühwarnsystemen oder ICU-Datenbanken. So können beispielweise mittels ChatGPT leicht und schnell Informationen zu medizinischen Themen, Leitlinien, (aktuellen) Forschungsergebnissen und Arzneimittelwechselwirkungen abgerufen werden. Es kann aber auch bei der Indikationsstellung zur extrakorporalen Membranoxygenierung bzw. bei der Einstellungsoptimierung und dem Troubleshooting unterstützen [26]. Hinsichtlich der potenziell aufgezeigten Anwendungsbereiche und darüber hinaus kann ChatGPT/GPT‑4 in der täglichen Praxis der Intensivmedizin als mögliche unterstützende Ergänzung zu den etablierten Arbeitsweisen verstanden werden, jedoch soll explizit auf die kritische und verantwortungsvolle Reflexion der ausgegebenen Ergebnisse hingewiesen werden. Es ist unbedingt zu bedenken, dass das beinhaltete Wissen bei der Informationsausgabe von ChatGPT/GPT‑4 hauptsächlich auf Informationen bis 2021 beruht und keine Quellen bei der Textausgabe angegeben werden [27]. Dies macht eine zeitkritische Überprüfung der Ausgabeinformationen unmöglich und birgt das Risiko, veraltete Informationen zu erhalten. Ein überwiegend oder rein ChatGPT/GPT-4-geleitetes medizinisches Handeln, ohne ausreichende Reflexion mit etablierten Wissensquellen und fachlicher Expertise, ist zweifellos zu unterlassen.

Klinische Forschung

Im Bereich der Forschung zu KI sind die Technologien bzw. Begriffe maschinelles Lernen und Deep Learning mittels Entscheidungsunterstützungssystemen und neuronalen Netzen charakteristisch. Die Publikationsflut und Entwicklungsdynamik im Feld der KI-Forschung ist enorm. Davon betroffen ist auch die Intensivmedizin, wobei die Qualität der wissenschaftlichen Arbeiten sehr heterogen ist und Arbeiten mit klinischer Relevanz derzeit zahlenmäßig noch verschwindend gering sind [11, 28,29,30,31]. Zur Erforschung und dem Trainieren von KI-Modellen für Anwendungszwecke in alltäglichen klinischen Szenarien haben sich über die letzten Jahre umfangreiche öffentliche („open source“) Datenbanken mit großteils retrospektiv erhobenen Daten etabliert. Die MIMIC(Medical Information Mart for Intensive Care)-Datenbank [32, 33] enthält beispielsweise monozentrische Daten von über 50.000 Patient:innen, die im Beth Israel Deaconess Medical Center in Boston (USA) behandelt wurden. Die MIMIC-Datenbank ist eine der bedeutendsten im Bereich des maschinellen Lernens sowie eine der wichtigsten Referenzdatenbanken zur Entwicklung von KI in der Intensivmedizin [32]. Weitere Datenbanken sind die eICU(Electronic Intensive Care Unit Collaborative Research)-Datenbank (USA) mit umfangreichen Daten aus über 335 Intensivstationen mit über 139.000 Patient:innen [34] oder die HiRID(High time Resolution ICU Dataset)-Datenbank (Schweiz) mit über 55.000 Patient:innen [35]. Diese Datenbanken wurden auch bei einigen der oben genannten KI-Forschungsarbeiten zu Krankheitsbildern und Themenfeldern potenzieller klinischer KI-Anwendungen in der Intensivmedizin verwendet.

Der Goldstandard klinischer Forschung besteht derzeit weiterhin unumstritten aus Erkenntnissen, die direkt oder indirekt (z. B. Metaanalyse) durch randomisierte kontrollierte Studien (randomized controlled trial, RCT) gewonnen wurden. Bei der Durchführung und Auswertung von RCTs sollen keine Diskrepanzen zwischen den vorab definierten Endpunkten im Studienprotokoll und den berichteten Ergebnissen entstehen, da dies zu einer Verzerrung der Ergebnisse und einer Abschwächung der Aussagekraft der Studie führt bzw. die Wahrscheinlichkeit für eine zufällige Beobachtung erhöht [36,37,38]. Dessen Bedeutung wird durch die International Conference on Harmonisation of Good Clinical Practice (ICH-GCP) [39], die detaillierten CONSORT(Consolidated Standards of Reporting Trials)-Richtlinien [40] und das selbstverpflichtende Bekenntnis zur Umsetzung dieser Standards durch die meisten medizinischen Fachzeitschriften unterstrichen [41]. Andererseits scheint die vollständige Umsetzung dieser Richtlinien selbst die weltweit einflussreichsten und anerkanntesten Medizinjournale (New England Journal of Medicine, The Lancet, Journal of the American Medical Association, British Medical Journal und Annals of Internal Medicine) vor Herausforderungen zu stellen [41]. Dies kann als Hinweis darauf verstanden werden, wie anspruchsvoll es trotz aller internationalen Bemühungen zur Qualitätssicherung ist, zu validen und reliablen Wissenschaftserkenntnissen zu kommen.

In Bezug auf die klinische Forschung im Zusammenhang mit KI wird es in Zukunft neben der vergleichenden Forschung zwischen menschlicher Intelligenz und KI um die Transition der Forschungskultur hin zu synergistischen Studiendesigns zwischen Menschen und KI gehen [42, 43]. KI soll dabei als eine Unterstützung menschlicher Intelligenz und nicht als deren Ersatz betrachtet werden [44]. Richtlinien für Studienprotokolle zur Umsetzung KI-basierter klinischer Forschung (CONSORT-AI oder SPIRIT-AI) sollen zur standardisierten und transparenten Berichterstattung von RCTs beitragen und damit die Qualität und Aussagekraft der Studienergebnisse auf ein höchstmögliches Maß anheben [45,46,47].

Literatur

1. Meraner V, Sperner-Unterweger B. Nervenarzt. 2016;87(3):264–8.
2. Karagiannidis C, Kluge S, Janssens U, et al. Med Klin Intensivmed Notfmed. 2019;114(4):327–33.
3. Europäisches-Parlament. Künstliche Intelligenz: Chancen und Risiken. 2020. https://www.europarl.europa.eu/news/de/headlines/society/20200918STO87404/kunstliche-intelligenz-chancen-und-risiken. Zugegriffen: 06. August 2023.
4. Europäisches-Parlament. Was ist künstliche Intelligenz und wie wird sie genutzt? 2020. https://www.europarl.europa.eu/news/de/headlines/society/20200827STO85804/was-ist-kunstliche-intelligenz-und-wie-wird-sie-genutzt. Zugegriffen: 20. Juni 2023.
5. Europäische-Kommission. Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung Harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union EUR-Lex. 2021. https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206#document1. Zugegriffen: 06. August 2023.
6. Europäisches-Parlament. KI-Gesetz: Ein Schritt näher an ersten Regeln für künstliche Intelligenz. 2023. https://www.europarl.europa.eu/news/de/press-room/20230505IPR84904/ki-gesetz-ein-schritt-naher-an-ersten-regeln-fur-kunstliche-intelligenz. Zugegriffen: 11. Mai 2023.
7. Europäisches-Parlament. Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI. 2023. https://www.europarl.europa.eu/news/de/press-room/20230609IPR96212/parlament-bereit-fur-verhandlungen-uber-regeln-fur-sichere-und-transparente-ki. Zugegriffen: 14. Juni 2023.
8. The-White-House. Blueprint for an AI bill of rights. 2022. https://www.whitehouse.gov/ostp/ai-bill-of-rights/#applying. Zugegriffen: 06. August 2023.
9. ZEIT-ONLINE-GmbH. EU und USA wollen Verhaltenskodex für künstliche Intelligenz entwerfen. 2023. https://www.zeit.de/digital/2023-05/eu-usa-kuenstliche-intelligenz-verhaltenskodex?utm_referrer=https%3A%2F%2Fwww.google.com%2F. Zugegriffen: 31. Mai 2023.
10. Dutzmann J, Nuding S. Med Klin Intensivmed Notfmed. 2021;116(3):190–7.
11. van de Sande D, van Genderen ME, van Bommel J, et al. Intensive Care Med. 2021;47(7):750–60.
12. Schweingruber N, Gerloff C. Nervenarzt. 2021;92(2):115–26.
13. Hyland SL, Faltys M, Esteban C, et al. Nat Med. 2020;26(3):364–73.
14. Bitker L, Talmor D, Richard JC. Intensive Care Med. 2022;48(8):995–1008.
15. Bologheanu R, Kapral L, Zeiner S, et al. J Clin Med. 2023;12(4):1513. https://doi.org/10.3390/jcm12041513.
16. Böck M, Malle J, Heitzinger C, et al. PLoS ONE. 2022;17(11):e275358.
17. Goh KH, Wang L, Yeow JJL, et al. Nat Commun. 2021;12(1):711.
18. Zhang H, Wang AY, He X, et al. BMC Nephrol. 2022;23(1):405.
19. Bishara A, Chiu C, Butte AJ, et al. BMC Anesthesiol. 2022;22(1):8.
20. Boonstra A, Laven M. BMC Health Serv Res. 2022;22(1):669.
21. Reignier J, Arabi YM, Preiser JC. Intensive Care Med. 2022;48(10):1426–8.
22. Wong A, Chew M, Hernandez G. Intensive Care Med. 2023;49(5):563–5.
23. Laumer F, Di Vece D, Schönberger M, et al. JAMA Cardiol. 2022;7(5):494–503.
24. OpenAI. ChatGPT. 2023. https://openai.com/chatgpt. Zugegriffen: 06. August 2023.
25. OpenAI. Welcome to ChatGPT. 2023. https://chat.openai.com/auth/login. Zugegriffen: 06. August 2023.
26. Lu Y, Wu H, Qi S, Cheng K. Ann Biomed Eng. 2023;51(9):1898–903. https://doi.org/10.1007/s10439-023-03234-w.
27. OpenAI. GPT‑4. 2023. https://openai.com/research/gpt-4. Zugegriffen: 06. August 2023.
28. Plana D, Shung DL, Kann BH, et al. JAMA Netw Open. 2022;5(9):e2233946.
29. Tang R, Zhang S, Gao Y, et al. J Med Internet Res. 2022;24(11):e42185.
30. Zhou Q, Chen ZH, Cao YH, Peng S. NPJ Digit Med. 2021;4(1):154.
31. Jentzer JC, Kashou AH, Murphree DH. Intelligence-Based Medicine. 2023;7:100089.
32. Johnson AE, Pollard TJ, Ghassemi M, et al. Sci Data. 2016;3:160035.
33. Saeed M, Villarroel M, Moody G, et al. Crit Care Med. 2011;39(5):952–60.
34. Pollard TJ, Johnson AEW, Badawi O, et al. Sci Data. 2018;5:180178.
35. Hyland SL, Faltys M, Esteban C, et al. Nat Med. 2020;26(3):364–73.
36. Jones CW, Keil LG, Platts-Mills TF, et al. BMC Med. 2015;13:282.
37. Hart B, Lundh A, Bero L. BMJ. 2012;344:d7202.
38. Kirkham JJ, Dwan KM, Smyth R, et al. BMJ. 2010;340:c365.
39. International-Council-for-Harmonisation-of-Technical-Requirements-for-Pharmaceuticals-for-Human-Use. Efficacy guidelines. 2023. https://www.ich.org/page/efficacy-guidelines. Zugegriffen: 06. August 2023.
40. Schulz KF, Altman DG, Moher D. BMJ. 2010;340:c332.
41. Goldacre B, Drysdale H, Hartley P, et al. Trials. 2019;20(1):118.
42. Topol EJ. Nat Med. 2019;25(1):44–56.
43. Rajpurkar P, Chen E, Banerjee O, Topol EJ. Nat Med. 2022;28(1):31–8.
44. Adashek JJ, Subbiah IM, Subbiah V. Oncologist. 2019;24(10):1291–3.
45. Liu X, Cruz Rivera S, Denniston AK, et al. Nat Med. 2020;26(9):1364–74.
46. Cruz Rivera S, Liu X, Calvert MJ, et al. Nat Med. 2020;26(9):1351–63.
47. Cruz Rivera S, Liu X, Calvert MJ, et al. Lancet Digit Health. 2020;2(10):e549–e60.

Erschienen in den Anästhesie Nachrichten 4/23