Eine Forschungsarbeit, an der Wojciech Samek, Leiter der KI-Abteilung am Fraunhofer HHI und Professor an der Technischen Universität Berlin, als Mitautor beteiligt ist, wurde mit dem Information Fusion 2025 Best Paper Award ausgezeichnet, der von der führenden Fachzeitschrift Information Fusion verliehen wird. Ausgezeichnet wurde die Arbeit „Explainable Artificial Intelligence (XAI) 2.0: A manifesto of open challenges and interdisciplinary research directions”, die einen Fahrplan für die zukünftige XAI-Forschung entwirft.
Erklärbare KI (XAI) ist zu einem Eckpfeiler vertrauenswürdiger künstlicher Intelligenz geworden, insbesondere da KI-Systeme zunehmend in sicherheitskritischen und gesellschaftlich sensiblen Bereichen wie Gesundheitswesen, Finanzwesen, Lebensmittelsystemen und Katastrophenschutz genutzt werden. Angesichts der zunehmenden Reife des Fachgebiets hebt die Arbeit die Grenzen eng fokussierter, methodenzentrierter Ansätze zur Erklärbarkeit hervor und fordert eine breitere, stärker integrierte Perspektive darauf, wie Erklärungen gestaltet, bewertet und in der Praxis verwendet werden.
Die Autoren stellen das Konzept „XAI 2.0“ vor und betonen dabei die Notwendigkeit interdisziplinärer Zusammenarbeit, menschenzentrierter Erklärungen, Robustheit sowie der Ausrichtung an gesellschaftlichen und regulatorischen Anforderungen, einschließlich der wachsenden Bedeutung der KI-Governance. Um diesen Wandel zu unterstützen, präsentiert das Papier ein Manifest mit 28 offenen Forschungsherausforderungen, die in neun Kategorien unterteilt sind und von der Erklärbarkeit großer Sprachmodelle und generativer KI bis hin zu Evaluierung, menschenzentriertem Design, Vertrauenswürdigkeit und gesellschaftlichen Auswirkungen reichen.
Das Papier vereint 27 führende Forschende aus verschiedenen Disziplinen in Europa und darüber hinaus und bietet einen umfassenden Überblick über die technischen, wissenschaftlichen und gesellschaftlichen Hindernisse, die die praktische Einführung erklärbarer KI weiterhin begrenzen. Es zielt darauf ab, die Forschungsagenden verschiedener Disziplinen zu synchronisieren und die Umsetzung der XAI-Forschung in reale Anwendungen zu beschleunigen.
Die Auszeichnung unterstreicht die wachsende Rolle Berlins als internationaler Knotenpunkt für die Forschung im Bereich erklärbarer KI, getragen von Einrichtungen wie dem KI-Kompetenzzentrum BIFOLD (Berlin Institute for the Foundations of Learning and Data) sowie der Expertise des Fraunhofer HHI in den Bereichen vertrauenswürdige, transparente und menschenzentrierte KI-Systeme. Das Paper wurde im Juni 2024 in Information Fusion veröffentlicht und ist frei zugänglich.
