Eine gefälschte Sprachnachricht, ein manipuliertes Interview oder ein vermeintlicher Anruf der Geschäftsführung: Audio-Deepfakes werden zunehmend realistisch und schwerer erkennbar. Moderne generative KI kann Stimmen, Sprechweisen und emotionale Ausdrucksformen immer besser nachbilden. Dadurch stoßen bestehende Detektionsverfahren zunehmend an Grenzen.

Genau dieser Herausforderung widmet sich das neue Forschungs- und Entwicklungsprojekt PADSE – Personenzentrierte, Audio- und sprachbasierte Deepfake- und Shallowfake-Erkennung, das am Fraunhofer-Institut für Digitale Medientechnologie IDMT gestartet ist. Gemeinsam mit Deutsche Welle und der Arbeitsgruppe »Intelligente Informationssysteme« an der Bauhaus-Universität Weimar entwickelt und evaluiert das Konsortium neue Verfahren zur Erkennung und Einordnung synthetischer und manipulierter Sprachinhalte.

Personenzentrierter Ansatz ergänzt generische Detektion

Bisherige Verfahren suchen überwiegend nach allgemeinen Merkmalen synthetischer oder manipulierter Inhalte. PADSE erweitert diesen Ansatz um sogenannte personenzentrierte Referenzprofile. Diese Profile beschreiben charakteristische Eigenschaften zu schützender Personen, wie etwa Stimme, Sprechweise, emotionale Ausdrucksformen und sprachliche Merkmale. Neue Inhalte können dadurch nicht nur auf allgemeine Deepfake-Merkmale geprüft werden, sondern zusätzlich auch auf ihre Konsistenz mit dem jeweiligen Referenzprofil.

Dadurch sollen Audiomanipulationen und synthetisch hergestellte Sprache auch unter den Herausforderungen neuer generativer KI-Verfahren zuverlässiger erkannt und besser eingeordnet werden. Dabei werden Datenschutz- und Sicherheitsaspekte von Beginn an technisch berücksichtigt.

Forschung und Anwendung von Anfang an zusammenführen

PADSE ist ein anwendungsorientiertes Forschungs- und Entwicklungsprojekt. Ziel ist nicht allein die Entwicklung neuer Detektionsverfahren, sondern deren Bewertung unter realen Einsatzbedingungen.

Dafür verbindet das Konsortium komplementäre Kompetenzen aus Audioforensik, Textanalyse und journalistischer Praxis. Die Bauhaus-Universität Weimar entwickelt Verfahren zur Text- und Autorenschaftsanalyse. Deutsche Welle bringt Anforderungen aus journalistischen Arbeitsabläufen ein, koordiniert die Erstellung und Annotation von Trainings- und Testdaten und übernimmt die Validierung der entwickelten Verfahren unter realen Einsatzbedingungen. Das Fraunhofer IDMT leitet das Projekt und die Kerntechnologien zur Erkennung von Sprachsynthese und Audio-Manipulation sowie für technischen Datenschutz und Datensicherheit.

Ziel: zuverlässigere Erkennung von synthetischer Sprache

Die im Projekt entwickelten Technologien sollen künftig Medienhäuser, Unternehmen, Behörden und weitere Organisationen dabei unterstützen, manipulierte und synthetische Sprachinhalte zuverlässiger zu erkennen und zu bewerten. Langfristig soll PADSE dazu beitragen, das Vertrauen in digitale Kommunikation zu stärken und die technologische Souveränität Deutschlands im Umgang mit KI-generierten Sprachinhalten auszubauen.

Förderung

PADSE wird im Rahmen der Fördermaßnahme »Vertrauen in Demokratie und Staat: Digitale Desinformation erkennen und abwehren« durch das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert. Das Projekt läuft bis 2029.

Förderkennzeichen: 16KIS2468K