Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Deepfake Evidence and Technology for Forensic Content Oversight and Research

Projektbeschreibung

KI für die Erkennung von Medienmanipulation und den Schutz digitaler Beweise

Das EU-finanzierte Projekt DETECTOR befasst sich mit der wachsenden Herausforderung der KI-gesteuerten Medienmanipulation, insbesondere mit Deepfakes, die Bereiche wie Politik, Finanzen, Sicherheit und das Vertrauen der Öffentlichkeit bedrohen. Die derzeitigen Erkennungsmethoden sind unzureichend, da sie sich auf begrenzte Datensätze und eine geringe rechtliche Zulässigkeit stützen. Neben vielfältigen und umfassenden Datensätzen wird das Projekt auch spezielle Werkzeuge zur Identifizierung von manipulierten Audio-, Video- und Textdateien bereitstellen. Durch die Förderung der grenzüberschreitenden Zusammenarbeit zwischen KI-Forschenden, Strafverfolgungsbehörden, Forensikern, Rechtsexperten und Ethikern wird DETECTOR die Zuverlässigkeit digitaler Beweise stärken und so Gerichtsverfahren unterstützen. Zudem wird das Projekt die Forschung zum digitalen Beweismittelaustausch vorantreiben, Schulungen für Forensiker anbieten und politischen Entscheidungsträgern Informationen zur Verfügung stellen.

Ziel

AI is transforming law enforcement, offering new tools for policing but also enabling advanced criminal tactics that challenge traditional methods. The global nature of crime, including cyber threats, trafficking, and terrorism, calls for innovative solutions as LEAs face vast data volumes and increasingly sophisticated criminal activities. AI has raised concerns with deepfakes—highly realistic but fake audio, video, or text that can depict individuals saying or doing things they never did. Deepfakes pose serious risks, impacting politics, economy, and social trust. Examples include fabricated videos of political figures and voice-cloned audio for financial fraud, often spread through social networks to deceive and defraud on a large scale.
Forensic institutes and courts struggle to differentiate authentic evidence from AI fabrications, especially in cases involving national security. Despite promising detection research, existing methods fall short as current models rely on limited, non-diverse datasets and produce results with limited legal admissibility.
The DETECTOR initiative aims to address these challenges, supporting LEAs and forensic experts in analyzing altered media. It offers an integrated solution through cross-border collaboration among AI researchers, LEAs, forensic scientists, legal experts, and ethicists. DETECTOR’s goals include: developing specialized tools for detecting media manipulation, creating comprehensive datasets, researching digital evidence exchange across borders, engaging stakeholders, informing policymakers, and training forensic experts in digital media and AI. Through these efforts, DETECTOR seeks to safeguard digital evidence authenticity and enhance forensic capabilities to counter AI-driven media manipulation across Europe

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-RIA - HORIZON Research and Innovation Actions

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-CL3-2024-FCT-01

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS
Netto-EU-Beitrag
€ 812 500,00
Adresse
CHARILAOU THERMI ROAD 6 KM
570 01 THERMI THESSALONIKI
Griechenland
Region
Βόρεια Ελλάδα Κεντρική Μακεδονία Θεσσαλονίκη
Aktivitätstyp
Research Organisations
Links
Gesamtkosten
€ 812 500,00

Beteiligte (16)