Projektbeschreibung
Mensch und künstliche Intelligenz: mit vereinten Kräften im Einsatz gegen Hass und Desinformation im Netz
Im Jahr 2016 brachte die Europäische Kommission gemeinsam mit namhaften IT-Unternehmen einen EU-Verhaltenskodex auf den Weg, um eine rasche Reaktion auf Hassrede im Internet zu ermöglichen. Im Zuge des Bemühens, gegen Hass im Internet vorzugehen, wird das EU-finanzierte Projekt AI4Dignity untersuchen, welche Rolle der künstlichen Intelligenz (KI) dabei zukommt. Die KI kann zwar durchaus dazu eingesetzt werden, extreme Sprache im Internet zu erkennen, auszubremsen und zu entfernen. Doch wie gut das gelingt, hängt von der Qualität, der Menge und dem Umfang der Trainingsdatensätze ab. Zudem mangelt es noch an entsprechenden Verfahrensleitlinien und Regelwerken. Das Projekt wird daher eine innovative Lösung erarbeiten, die auf kollaborativer Bottom-up-Kodierung basiert. Damit wird es möglich sein, über rein schlüsselwortbasierte Erkennungssysteme hinauszugehen. Die Lösung von AI4Dignity wird sich auf einen gemeinschaftsbasierten Klassifizierungsansatz stützen, bei dem Faktenprüfer im Kampf gegen Hass und Desinformation im Internet als Dialogpartner eine zentrale Rolle übernehmen.
Ziel
Online hate speech and disinformation have emerged as a major problem for democratic societies worldwide. Governments, companies and civil society groups have responded to this phenomenon by increasingly turning to Artificial Intelligence (AI) as a tool that can detect, decelerate and remove online extreme speech. However, such efforts confront many challenges. One of the key challenges is the quality, scope, and inclusivity of training data sets. The second challenge is the lack of procedural guidelines and frameworks that can bring cultural contextualization to these systems. Lack of cultural contextualization has resulted in false positives, over-application and systemic bias. The ongoing ERC project has identified the need for a global comparative framework in AI-assisted solutions in order to address cultural variation, since there is no catch-all algorithm that can work for different contexts. Following this, the proposed project will address major challenges facing AI assisted extreme speech moderation by developing an innovative solution of collaborative bottom-up coding. The model, “AI4Dignity”, moves beyond keyword-based detection systems by pioneering a community-based classification approach. It identifies fact-checkers as critical human interlocutors who can bring cultural contextualization to AI-assisted speech moderation in a meaningful and feasible manner. AI4Dignity will be a significant step towards setting procedural benchmarks to operationalize “the human in the loop” principle and bring inclusive training datasets for AI systems tackling urgent issues of digital hate and disinformation.
Wissenschaftliches Gebiet
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
Schlüsselbegriffe
Programm/Programme
Finanzierungsplan
ERC-POC - Proof of Concept GrantGastgebende Einrichtung
80539 MUNCHEN
Deutschland