Fraunhofer HHI stellt Whitepaper zur Prüfung und Zertifizierung von KI-Systemen vor

Mai 6, 2021

Das Fraunhofer Heinrich-Hertz-Institut (HHI) stellt zusammen mit dem TÜV Verband und dem Bundesamt für Sicherheit in der Informationstechnik (BSI) das gemeinsam erarbeitete Whitepaper „Towards Auditable AI Systems“ vor. Das Whitepaper zeigt einen Fahrplan auf, mit dem KI-Modelle in ihrem gesamten Entwicklungszyklus sowie ihrer Anwendung untersucht werden können. Mit diesem Beitrag bringen sich die Forschenden in die EU-weite Diskussion  um eine allgemeine Regulierung für KI-Systeme ein, indem sie die Möglichkeiten und Grenzen einer zuverlässigen Sicherheitsprüfung für KI-Systeme aufzeigen.

KI spielt als Teil von Entscheidungs- und Kontrollsystemen in verschiedenen Anwendungen eine immer größere Rolle. Allerdings bringen besonders leistungsfähige KI-Technologien wie etwa Deep Learning das sogenannte Black-Box-Problem mit sich. Ihre Entscheidungen können nicht hinreichend nachvollzogen und verifiziert werden. Insbesondere in sicherheitskritischen Anwendungsbereichen wie Mobilität, Biometrie und Medizin ist die Sicherheit, Robustheit, Interpretierbarkeit und Zuverlässigkeit der KI-Systeme von zentraler Bedeutung.

Um die Erfüllung dieser Anforderungen bei KI-basierten Systemen sicherzustellen, bedarf es eines KI-Prüfprozesses sowie spezielle KI-Zertifizierungsverfahren. Daher organisierten das Fraunhofer HHI, der TÜV Verband und das BSI im Oktober 2020 den Workshop „Auditing AI-Systems: From Basics to Applications“. Hier trafen sich internationale KI-Expertinnen und -Experten im Berliner CINIQ Center/Forum Digitale Technologien, um die Grundlage für eine verifizierbare KI zu legen. Ihre Ergebnisse haben sie jetzt im aktuellen Whitepaper veröffentlicht.

„Als eines der führenden Forschungsinstitute im Bereich erklärbare KI (XAI) konnten wir die wissenschaftlichen Grundlagen zum Thema KI-Prüfung und KI-Zertifizierung legen,“ sagt Dr. Wojciech Samek, Abteilungsleiter „Künstliche Intelligenz“ am Fraunhofer HHI und Initiator der AI for Good „Trustworthy AI“ Workshop-Serie. Zusätzlich ist das Fraunhofer HHI als führendes Mitglied der ITU/WHO Fokus Gruppe „AI for Health“ federführend an der Entwicklung eines Prüfverfahrens für KI-Anwendungen in der Medizin beteiligt. In diesem Rahmen wurde kürzlich eine innovative KI-Prüfplattform fertiggestellt.