Fraunhofer-Institut für Digitale Medientechnologie IDMTDie Fortschritte im Bereich der künstlichen Intelligenz machen die Erstellung und Verbreitung manipulierter und künstlich erzeugter Medieninhalte wie Deepfakes, immer einfacher. Gleichzeitig wird es immer schwieriger, sie zu erkennen, was eine ernsthafte Bedrohung für die Glaubwürdigkeit von Medien und die Integrität von Informationen darstellt. Medienanbieter sowie Journalistinnen und Journalisten sind zunehmend auf technologische Unterstützung im Katz und Maus Spiel der der Content-Verifikation und Desinformationserkennung angewiesen.
Das Projekt news-polygraph zielt darauf ab, eine umfassende, multimodale Technologieplattform zur Analyse und Erkennung von Desinformation zu entwickeln.
Dafür kombiniert news-polygraph KI-Analyseverfahren für Text, Audio, Bild und Video und umfasst darüber hinaus den Einsatz von Crowdsourcing- und Empfehlungssystemen, um Medienschaffende bestmöglich bei der Content-Verifikation und Desinformationsanalyse zu unterstützen. Ein weiterer Schwerpunkt liegt auf der Adressierung von Vertrauensaspekten wie Erklärbarkeit, Transparenz, Datenschutz und Bias.