Skip to main content
European Commission logo print header

Collaborative AI Counters Hate

Descrizione del progetto

L’uomo e l’intelligenza artificiale nella lotta contro la disinformazione e l’odio digitali

Nel 2016, la Commissione europea ha introdotto il Codice di condotta insieme alle principali aziende IT nel tentativo di rispondere rapidamente al proliferare del discorso dell’odio online. In questa lotta contro le espressioni di odio online, il progetto AI4Dignity, finanziato dall’UE, indagherà sul ruolo dell’intelligenza artificiale. Anche se è possibile utilizzare l’intelligenza artificiale per rilevare, rallentare e rimuovere i discorsi estremi online, questo dipende dalla qualità, dalla portata e dall’inclusività dei set di dati di formazione. Mancano inoltre linee guida e quadri di riferimento procedurali. Il progetto svilupperà quindi una soluzione innovativa di codifica collaborativa dal basso verso l’alto, andando oltre i sistemi di rilevamento basati su parole chiave. La soluzione AI4Dignity utilizzerà un approccio di classificazione basato sulla comunità che identifica i fact checker come interlocutori umani critici nella lotta contro la disinformazione e l’odio digitali.

Obiettivo

Online hate speech and disinformation have emerged as a major problem for democratic societies worldwide. Governments, companies and civil society groups have responded to this phenomenon by increasingly turning to Artificial Intelligence (AI) as a tool that can detect, decelerate and remove online extreme speech. However, such efforts confront many challenges. One of the key challenges is the quality, scope, and inclusivity of training data sets. The second challenge is the lack of procedural guidelines and frameworks that can bring cultural contextualization to these systems. Lack of cultural contextualization has resulted in false positives, over-application and systemic bias. The ongoing ERC project has identified the need for a global comparative framework in AI-assisted solutions in order to address cultural variation, since there is no catch-all algorithm that can work for different contexts. Following this, the proposed project will address major challenges facing AI assisted extreme speech moderation by developing an innovative solution of collaborative bottom-up coding. The model, “AI4Dignity”, moves beyond keyword-based detection systems by pioneering a community-based classification approach. It identifies fact-checkers as critical human interlocutors who can bring cultural contextualization to AI-assisted speech moderation in a meaningful and feasible manner. AI4Dignity will be a significant step towards setting procedural benchmarks to operationalize “the human in the loop” principle and bring inclusive training datasets for AI systems tackling urgent issues of digital hate and disinformation.

Meccanismo di finanziamento

ERC-POC - Proof of Concept Grant
æ

Coordinatore

LUDWIG-MAXIMILIANS-UNIVERSITAET MUENCHEN
Contribution nette de l'UE
€ 150 000,00
Indirizzo
Geschwister scholl platz 1
80539 Muenchen
Germania

Mostra sulla mappa

Regione
Bayern Oberbayern München, Kreisfreie Stadt
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Contributo UE
Nessun dato

Beneficiari (1)