Projektbeschreibung
Desinformation im Internet mit vertrauenswürdigen KI-Lösungen den Kampf ansagen
Die Online-Medien sind ein wahres Minenfeld der Desinformation sowie irreführender oder manipulierter Nachrichten. Die Verbreitung von Desinformation ist schwer einzudämmen, was die Gefahr für die öffentliche Sicherheit und Gesundheit erhöht. Außerdem ist es immer ein äußerst schwieriges Unterfangen, die Glaubwürdigkeit von Informationsquellen zu überprüfen oder Desinformationskampagnen aufzudecken. In diesem Kontext wird das EU-finanzierte Projekt "vera.ai" mit Medienfachleuten und Forschenden zusammenarbeiten, um vertrauenswürdige KI-Lösungen zu entwickeln, die einen ununterbrochenen Faktenprüfungsansatz und KI-Modelle umfassen, die ständig aktualisierte Quellen und multimodale Daten überprüfen, die mithilfe des InVID-WeVerify-Plugins und der Truly Media/EDMO-Plattform verifiziert werden. Das Projekt wird den Kampf gegen komplexe Desinformationstechnologien aller Formate erleichtern.
Ziel
Online disinformation and fake media content have emerged as a serious threat to democracy, economy and society. Recent advances in AI have enabled the creation of highly realistic synthetic content and its artificial amplification through AI-powered bot networks. Consequently, it is extremely challenging for researchers and media professionals to assess the veracity/credibility of online content and to uncover the highly complex disinformation campaigns.
vera.ai seeks to build professional trustworthy AI solutions against advanced disinformation techniques, co-created with and for media professionals & researchers and to also set the foundation for future research in the area of AI against disinformation.
Key novel characteristics of the AI models will be fairness, transparency (incl. explainability), robustness against concept drifts, continuous adaptation to disinformation evolution through a fact-checker-in-the-loop approach, and ability to handle multimodal and multilingual content. Recognising the perils of AI generated content, we will develop tools for deepfake detection in all formats (audio, video, image, text).
vera.ai adopts a multidisciplinary co-creation approach to AI technology design, coupled with open source algorithms. A unique key proposition is grounding of the AI models on continuously collected fact-checking data gathered from the tens of thousands of instances of “real life” content being verified in the InVID-WeVerify plugin and the Truly Media/EDMO platform. Social media and web content will be analysed and contextualised to expose disinformation campaigns and measure their impact.
Results will be validated by professional journalists and fact checkers from project partners (DW, AFP, EUDL, EBU), external participants (through our affiliation with EDMO and seven EDMO Hubs), the community of more than 53,000 users of the InVID-WeVerify verification plugin, and by media literacy, human rights and emergency response organisations.
Wissenschaftliches Gebiet
Schlüsselbegriffe
Programm/Programme
Aufforderung zur Vorschlagseinreichung
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordinator
57001 Thermi Thessaloniki
Griechenland