Ein neuer Rahmenplan für European Responsible AI Development (EURAID), das deutschen Krankenhäusern dabei helfen soll, Systeme der künstlichen Intelligenz sicher zu entwickeln und einzusetzen, wurde im Journal of Medical Internet Research veröffentlicht.
Chief Medical Officer Eva Weicken und Dr. Katharina Weitz aus der Arbeitsgruppe Applied Machine Learning im KI-Department des Fraunhofer HHI waren Teil des interdisziplinären Teams, das den Rahmenplan entwickelt hat. Sie brachten ihre Expertise in der Bewertung von KI-Systemen sowie im Bereich verantwortungsvoller, menschenzentrierter KI für das Gesundheitswesen ein.
„Die Entwicklung und Implementierung von KI-Systemen in den komplexen Klinikalltag eines Krankenhauses läuft in der Realität oft holprig. Mit EURAID haben wir in einem multidisziplinären Team einen praxisnahen Leitfaden entwickelt, der den Menschen in den Mittelpunkt stellt und alle relevanten Stakeholder von Anfang an einbezieht, für eine sichere und sinnvolle KI-Nutzung im Krankenhaus,” sagt Eva Weicken.
Praxisnahe Orientierung für die „in-house“ KI-Entwicklung
Künstliche Intelligenz entwickelt sich rasant, doch ihre Integration in den klinischen Alltag verläuft weiterhin vorsichtig und uneinheitlich. Viele vielversprechende Systeme schaffen es nicht in die Routineversorgung, da sie ohne ausreichende Berücksichtigung krankenhausspezifischer Abläufe, Führungsstrukturen und der Bedürfnisse von medizinischem Personal entwickelt und getestet werden. Dadurch werden sie häufig eher als zusätzliche Belastung, denn als Unterstützung wahrgenommen.
Das EURAID-Rahmenwerk setzt genau hier an und zeigt auf, wie Krankenhäuser KI-Systeme „in-house“ entwickeln, validieren und implementieren können. Ziel ist es, Lösungen zu schaffen, die auf lokale klinische Anforderungen und Datensätze zugeschnitten sind und gleichzeitig mit dem sich weiterentwickelnden regulatorischen Rahmen der EU im Einklang stehen.
Zu den Empfehlungen gehören unter anderem:
● Aufbau bereichsübergreifender Führungsstrukturen
● Klärung ethischer, rechtlicher, klinischer und technischer Verantwortlichkeiten
● Bewertung der institutionellen Bereitschaft für den Einsatz von KI
● Integration iterativer Test- und Evaluationsprozesse
● Sicherstellung von Transparenz, Sicherheit und menschliche Kontrolle
Die Empfehlungen basieren auf Erkenntnissen aus Multi-Stakeholder-Workshops mit Krankenhäusern, Regulierungsbehörden, Versicherungen, Gewerkschaften und Forschungseinrichtungen.
Menschenzentrierte KI im Gesundheitswesen
Ein zentraler Grundsatz von EURAID ist die Einbindung von medizinischem Fachpersonal über den gesamten Lebenszyklus eines KI-Systems hinweg. Anstatt sie ausschließlich als Endanwender zu betrachten, versteht das Rahmenwerk sie als Mitgestaltende, Umsetzende und Evaluierende von KI-Systemen. Dadurch wird sichergestellt, dass neue Technologien die klinische Praxis und die Patientenversorgung tatsächlich unterstützen, anstatt zu zusätzlicher Arbeitsbelastung zu führen oder operative Risiken zu erzeugen.
„Wir brauchen beides: die Einbindung von Klinikpersonal in den Entwicklungsprozess und die Förderung von KI-Kompetenzen, damit diese neuen Werkzeuge zur klinischen Praxis passen, die Arbeit unterstützen und letztlich den Patientinnen und Patienten zugutekommen“, sagt Dr. Katharina Weitz.
Interdisziplinäre Zusammenarbeit
Unter der Leitung von Prof. Stephen Gilbert vom Else Kröner Fresenius Center for Digital Health an der TU Dresden und Dr. Anke Diehl vom Universitätsklinikum Essen entstand der Rahmenplan in einer multidisziplinären Zusammenarbeit von Expertinnen und Experten aus Medizin, Krankenhausmanagement, medizinischer Informatik, Qualitätsmanagement, Arbeitsschutz, Recht, Ethik und menschenzentrierter KI. Erstautorin der Publikation ist Anett Schönfelder, Wissenschaftlerin im Team von Prof. Stephen Gilbert.
Zu den Partnern zählen unter anderem das Karlsruher Institut für Technologie (KIT), das Bundesministerium für Gesundheit (BMG), die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA), Kranken- und Unfallversicherungen (AOK und DGUV), Gewerkschaften (ver.di) sowie weitere Akteure aus Politik und Wissenschaft.
Die Publikation hat bereits Aufmerksamkeit in der deutschen Gesundheitspolitik und Fachpresse erhalten, unter anderem im Tagesspiegel und im Deutschen Ärzteblatt.
Lesen Sie die Publikation hier.
Eine deutschsprachige Zusammenfassung des Rahmenplans ist zudem in der Reihe „Bericht kompakt“ der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) erschienen. Lesen Sie diese hier.