PADSE – Personenzentrierte, audio- und sprachbasierte Erkennung von Deepfakes

KI-gestützte Verfahren ermöglichen es heute, Stimme, Sprechweisen und emotionale Ausdrucksformen immer realistischer nachzubilden und gesprochene Inhalte gezielt zu manipulieren. Besonders betroffen sind Personen des öffentlichen Lebens, deren Stimmen leicht verfügbar sind und missbräuchlich für Desinformation, Betrug oder gezielte Einflussnahme eingesetzt werden können. Bestehende Detektionsverfahren suchen überwiegend nach allgemeinen Merkmalen synthetischer oder manipulierter Sprachinhalte. Mit den rasanten Fortschritten generativer KI stoßen diese Ansätze jedoch zunehmend an ihre Grenzen.

Ziele und Vorgehen

Im Projekt PADSE wird deshalb ein System zur Detektion, Analyse und Einordnung synthetischer und manipulierter Sprachinhalte entwickelt, das auf einen personenzentrierten Ansatz setzt. Ziel ist es, täuschend echte Sprachmanipulationen nicht nur anhand allgemeiner Deepfake-Merkmale zu überprüfen, sondern mit einem umfassenden Referenzprofil der betroffenen Person abzugleichen.

Mit Hilfe verschiedener Analysetechnologien erstellt das System Referenzprofile für zu schützende Personen, die charakteristische Eigenschaften der Stimme, der Sprechweise und der Emotionalität aber auch sprachliche Merkmale wie individuellen Sprachstil, Autorenschaft und Themensetzung umfassen. Anschließend prüft das System neue Inhalte nicht nur auf allgemeine Deepfake-Merkmale sondern zusätzlich auf die Übereinstimmung mit dem jeweiligen Referenzprofil und berücksichtigt zugleich den Ursprung sowie den inhaltlichen und situativen Kontext der Inhalte.

Innovationen und Perspektiven

Mit seinem personenzentrierten Ansatz erweitert PADSE die klassische Erkennung von Audio-Deepfakes um eine neue Perspektive. Statt ausschließlich nach allgemeinen Merkmalen synthetisch generierter Sprache zu suchen, bewertet das System zusätzlich die Übereinstimmung einer Aufnahme mit dem individuellen Profil einer Person. Dadurch sollen Audiomanipulationen und synthetisch hergestellte Sprache auch unter den Herausforderungen neuer generativer KI-Verfahren zuverlässiger erkannt und besser eingeordnet werden.

Die im Projekt entwickelte modulare Plattform mit offenen Schnittstellen ermöglicht die Integration und Weiterentwicklung einzelner Komponenten sowie die Anpassung an unterschiedliche Einsatzszenarien. Die Erprobung im journalistischen Umfeld gewährleistet einen hohen Praxisbezug und schafft die Grundlage dafür, die entwickelten Verfahren unter realen Einsatzbedingungen zu bewerten und auf weitere Anwendungsfelder zu übertragen.

PADSE leistet damit einen wichtigen Beitrag zur zuverlässigen Erkennung manipulierter und synthetisch erzeugter Sprachinhalte und zur Bekämpfung von Desinformation.