Fraunhofer HHI präsentiert XAI-Demo im Deutschen Hygiene-Museum Dresden

29. November 2021

Das Fraunhofer Heinrich-Hertz-Institut (HHI) ist mit einer Demo zu erklärbarer KI (XAI) Teil der Ausstellung „Künstliche Intelligenz. Maschinen — Lernen — Menschheitsträume “, die im Deutschen Hygiene-Museum Dresden kürzlich eröffnet wurde. Die vom Institut bereitgestellte Visual Question Answering (VQA)-Demo macht sichtbar, wie Entscheidungsprozesse innerhalb von neuronalen Netzen ablaufen. Sie nutzt dafür eine sogenannte Heatmap, die markiert, welche Pixel in einem Bild den ausschlaggebenden Einfluss auf die Entscheidung hatten.

Die Ausstellung läuft noch bis zum 28. August 2022. Sie gibt einen Überblick darüber, in welchen Bereichen KI heute bereits zum Einsatz kommt und über welche damit verbundenen Fragestellungen in der Gesellschaft diskutiert werden muss. Die VQA-Demo des Fraunhofer HHI erklärt den Besuchenden das Black-Box-Problem von KI-Anwendungen. Gleichzeitig bietet sie mit der am Institut entwickelten XAI-Technologie passende Lösungsansätze.

Die Black Box ist eine der größten Herausforderungen der KI-Forschung. Der Begriff Black Box beschreibt, dass die Entscheidungsprozesse einer KI für uns unsichtbar in neuronalen Netzen ablaufen. Um KI-Anwendungen in sicherheitskritischen Bereichen wie dem Verkehr oder dem Gesundheitswesen einzusetzen, müssen alle ihre Entscheidungen nachvollziehbar sein.

Die VQA-Demo zeigt mit Hilfe eines Verfahrens zur Bilder- und Textkennung wie XAI funktioniert. Dafür löst eine trainierte KI eine Bilderkennungsaufgabe. Nutzer*innen stellen der KI eine Frage zu einem ausgewählten Bild. Die KI beantwortet diese dann und markiert die Bereiche im Bild sowie die Wörter in der Frage, die für ihre Entscheidung ausschlaggebend waren, mithilfe einer sogenannten Heatmap. Anhand dieser Markierungen können die Betrachter*innen einfach erkennen, welche Teile des Bildes und der Frage zu der Entscheidung der KI geführt haben. Zusätzlich gibt die Demo an, für wie sicher bzw. wahrscheinlich sie ihre Antwort hält.

Die VQA-Demo ist dauerhaft ausgestellt im Forum Digitale Technologien  am Fraunhofer HHI. Sie können die VQA-Demo zusätzlich online auf dieser Website  erreichen.