Mit künstlicher Intelligenz gegen Deep Fakes: Fraunhofer HHI startet BMBF-gefördertes Projekt FakeID

14. September 2021

Das Fraunhofer Heinrich-Hertz-Institut (HHI) ist mit seiner Abteilung „Vision and Imaging Technologies“ am neuen Konsortialprojekt FakeID beteiligt. FakeID soll Videoanalyse durch künstliche Intelligenz (KI) nutzen, um falsche und manipulierte Identitäten, sogenannte Deep Fakes, zu erkennen. Das Konsortialprojekt ist im Mai 2021 gestartet und wird bis April 2024 laufen. Es wird vom Bundesministerium für Bildung und Forschung (BMBF) mit 2,6 Millionen Euro gefördert.

Durch die stetige Weiterentwicklung von Technologien zur Bild- und Videobearbeitung steigt auch die Gefahr der Manipulation und Fälschung (audio-) visuellen Materials. Abgesehen von den verheerenden Folgen, die dieses manipulierte Material haben kann, stellt auch die Strafverfolgung der technologisch raffinierten Erstellung und Verbreitung von Deep Fakes eine Herausforderung dar. 

Das Konsortialprojekt FakeID will sich diesen Problemen auf technischer Ebene nähern, indem es Angriffsmöglichkeiten und Fälschungen von Bildern und Videodatenströmen, die mithilfe unterschiedlicher Arten von Deep Fakes ermöglicht wurden, identifiziert und klassifiziert. Hierzu werden bild- und videobasierte Authentifizierungsverfahren der künstlichen Intelligenz angewendet, welche darüber hinaus die Erarbeitung von Algorithmen zur Erkennung von gefälschten Identitäten möglich machen. 

Um Angriffsszenarien und Fälschungen erkennen und fundiert bewerten zu können, generiert das Projekt neue Erkenntnisse zu den vielfältigen Motivationen und Hintergründen für das Fälschen von Bildern und Videodatenströmen. Diese reichen von Betrug bis zur Manipulation politischer Entscheidungsprozesse., Darüber hinaus sollen im Projekt Ansätze zur Detektion und Erklärung sowie zum Umgang der Polizeibehörden und Justiz mit diesen Fällen erarbeitet werden.

Die Abteilung „Vision and Imaging Technologies“ des Fraunhofer HHI wird dabei im Wesentlichen an der technischen Umsetzung und der Entwicklung neuer Verfahren zur Erzeugung und Detektion von Deep Fakes beitragen. Kernziel werden hier neue Detektoren sein, die Deep Fakes zuverlässig über KI-basierte Methoden erkennen und dabei zahlreiche Informationen wie Inkonsistenzen in Beleuchtung, Mimik, Bewegung oder vitalen Parametern wie Puls ausnutzen.

Die Verwertbarkeit der Ergebnisse bei den Endanwendenden soll erhöht werden, indem die entwickelten Verfahren im Hinblick auf die Entscheidungen des neuronalen Netzes interpretierbar und erklärbar bleiben. Um die neuen Detektoren trainieren und evaluieren zu können, wird das Fraunhofer HHI eine Referenzdatenbank mit Deep Fakes aufbauen. Dazu sollen sowohl existierende Datenbanken und Verfahren analysiert und genutzt, als auch eigene verbesserte Verfahren zur Synthese und Manipulation entwickelt werden. Auf diese Weise soll die Robustheit der Detektoren gegenüber zukünftigen Angriffen verbessert werden.

Neben dem Fraunhofer HHI sind auch die Bundesdruckerei GmbH, die Otto-von-Guericke-Universität Magdeburg, die Hochschule für Wirtschaft und Recht Berlin sowie die BioID GmbH an dem Forschungsprojekt beteiligt.