Fraunhofer-Institut für Digitale Medientechnologie IDMTOnline-Desinformation und gefälschte Medieninhalte sind eine ernsthafte Bedrohung für Demokratie, Wirtschaft und Gesellschaft. Fortschritte im KI-Bereich ermöglichen inzwischen die Erstellung realistischer synthetischer Inhalte und deren automatische Verbreitung durch Bots. Dadurch wird es zunehmend schwierig, Wahrheitsgehalt und Glaubwürdigkeit von Online-Inhalten zu bewerten und Desinformationskampagnen zu erkennen.
Im Projekt vera.ai sollen professionelle, vertrauenswürdige KI-Lösungen entwickelt und bereitgestellt werden, die zur Erkennung fortgeschrittener Desinformationstechniken geeignet sind. Im Fokus stehen dabei Transparenz und Erklärbarkeit, Robustheit und die Fähigkeit, mit mehrsprachigen und multimodalen Inhalten umzugehen. Die im Projekt entwickelten und genutzten KI-basierten Werkzeuge bauen dabei auf kontinuierlich gesammelten Daten u.a. von vielen Tausend Faktenprüfungen auf. Außerdem können mit den entsprechenden Werkzeugen soziale Medien und Webinhalte analysiert und kontextualisiert werden, um Desinformationskampagnen aufzudecken und ihre Auswirkungen zu messen. Die Werkzeuge und Projektergebnisse werden von Journalistinnen und Journalisten sowie von Faktenprüferinnen und Faktenprüfern der Projektpartner (DW, AFP, EUDL, EBU) und von assoziierten Partnern validiert.