Fraunhofer IDMT ist Partner im BMBF-geförderten KI-Forschungsprojekt zur Erkennung von manipulierten Medieninhalten

Das KI-Forschungsprojekt »news-polygraph« wurde vom Bundesministerium für Bildung und Forschung (BMBF) im Rahmen des Förderprogramms »RUBIN – Regionale unternehmerische Bündnisse für Innovation« für eine Förderung ausgewählt. Ziel des dreijährigen Projekts ist die Entwicklung einer Technologieplattform, die mithilfe von Künstlicher Intelligenz gezielte Desinformation (»Fake News«) identifiziert. Dafür kombiniert »news-polygraph« verschiedene Software-Werkzeuge zur Erkennung von Manipulationen an Bildern, Ton, Videos sowie Texten. Neben neun Partner-Einrichtungen aus Berlin und Brandenburg wird auch das Ilmenauer Fraunhofer-Institut für Digitale Medientechnologie IDMT seine Expertise in den Bereichen Audio-Manipulationserkennung und vertrauenswürdige KI in das Projekt einbringen.

© istock.com/metamorworks

Gemeinsam arbeiten die Partner daran, eine sogenannte multimodale Technologieplattform als digitalen Werkzeugkasten zu entwickeln. Damit soll es beispielsweise Journalistinnen und Journalisten oder auch Ermittelnden in Kriminalfällen leichter gemacht werden, gefälschte oder aus dem Kontext gerissene Informationen als solche zu erkennen. Die Erkennung soll viele Arten von Informationen beinhalten, möglichst schnell stattfinden und nachvollziehbar sein. In »news-polygraph« arbeiten dazu Partnerinnen und Partner aus Wissenschaft, Medien und Wirtschaft zusammen.

»news-polygraph« startet im Frühjahr 2023 und hat eine Laufzeit von drei Jahren. Das Fraunhofer-Institut für Digitale Medientechnologie IDMT übernimmt im Projekt verschiedene Forschungsaufgaben im Zusammenhang mit Audioforensik und Synthesedetektion, vertrauenswürdiger KI und technischem Datenschutz. Patrick Aichroth, der die Aktivitäten des Fraunhofer IDMT auf diesen Gebieten leitet, freut sich auf die Zusammenarbeit: »Leistungsfähige Verfahren für multimodale Desinformationsanalyse zu entwickeln ist eine spannende Herausforderung. Einen praktisch nutzbaren Werkzeugkoffer zu erstellen, ist aber eine genauso wichtige Aufgabe. In diesem Projekt können wir im Verbund mit den Wissenschafts-, Medien- und Wirtschaftspartnern beides erreichen und die Ergebnisse im redaktionellen Alltag testen«.

Mehr Informationen zum bewilligten Projekt news-polygraph finden Sie in der folgenden Pressemitteilung: BMBF wählt regionales KI-Forschungsprojekt zur Erkennung von manipulierten Medieninhalten für Förderung aus