22. März 2019
Das Fraunhofer Heinrich-Hertz-Institut zeigt auf der Sonderausstellung „Smarte Neue Welt“ im Science Center phaeno in Wolfsburg mit LRP-Demos unter anderem Alters- und Geschlechtsbestimmung per Gesichtserkennung sowie Ziffernerkennung und deren Rückverfolgung per „LRP“ (Layerwise Relevance Propagation) auf.
Am 22. März startet die Sonderausstellung „Smarte Neue Welt” . Die Ausstellung besteht aus mehreren Stationen, an denen spielerisch Wissen zu den Themen Coding, Künstliche Intelligenz, Internet of Things und Soziale Netzwerke vermittelt wird. Die Mitmachstationen fordern zum Nachdenken darüber auf, wie die Digitalisierung uns selbst und unser Leben beeinflusst.
Das Fraunhofer HHI stellt seine LRP-Demo zur Erklärbarkeit. Mithilfe des Fraunhofer HHI-Programms lassen sich unter anderem Gesichtsklassifikation, Handschrifterkennung, Bilderkennung, Texterkennung und Visual Question Answering nachvollziehen. So kann das Computerprogramm mittels eines künstlichen neuronalen Netzes Alter und Geschlecht bestimmen. Für diese Funktion wurde das künstliche neuronale Netz mit einer großen Anzahl von Bildern von Gesichtern trainiert. Eine wirksame Methode zur Überprüfung dieses Prozesses bietet LRP. Hier passiert eine schrittweise Rückverfolgung der für die Entscheidung maßgeblichen Bildbereiche. Damit kann beurteilt werden, ob zwischen den ermittelten Bildbereichen und der Erkennung ein plausibler Zusammenhang besteht.
Zur anderen Funktion der Ziffernerkennung wurden die neuralen Netzte nur mit Ziffern trainiert. Hier ermöglicht eine „Heatmap“, die Erkennung in künstlichen neuronalen Netzen nachzuvollziehen. Durch eine schrittweise Rückverfolgung der für die Erkennung maßgeblichen Anteile wird diese „Heatmap“ mithilfe von LRP erzeugt. Mit dieser Methode kann verfolgt werden, wie zum Beispiel eine „3“ langsam in eine „8“ umwandelt wird. Auf diese Art konnten schon tiefere Einblicke in die Arbeitsweisen künstlicher neuronaler Netze geboten werden. So ließ sich beispielsweise zeigen, dass eine Künstliche Intelligenz Pferde nicht aufgrund der Pferde in den Bildern erkannte, sondern aufgrund der Copyright-Information im Bild.