Projektbeschreibung
Personalisierte Moderationsmaßnahmen gegen Fehlverhalten online
Mit Moderationsmaßnahmen wird auf Online-Plattformen Fehlverhalten geahndet, doch mit dem aktuellen Einheitsansatz wird nicht auf Unterschiede zwischen einzelnen Nutzenden eingegangen. Die Moderation von Inhalten ist mehr Kunst als Wissenschaft: Die Maßnahmen beruhen oft eher auf Intuition und werden durch Versuch und Irrtum verbessert. Somit schwankt die Wirksamkeit der Maßnahmen und die Anforderungen an die Moderation werden nicht erreicht. Finanziert über den Europäischen Forschungsrat soll dieser Mangel an Inhaltsmoderation im Projekt DEDUCE behoben werden, indem personalisierte Moderationsmaßnahmen eingeführt werden. Dabei werden aktuelle Praktiken geprüft und ihre Wirksamkeit und Gerechtigkeit bewertet. Die personalisierten Moderationsmaßnahmen werden auf einzelne Nutzereigenschaften angepasst, um die Wirksamkeit auszubauen. Außerdem sollen kausale Methoden und Indikatoren für die Moderation aufgestellt werden, um die proaktive Entwicklung mehrerer Moderationsmaßnahmen zu ermöglichen.
Ziel
Online platforms apply moderation interventions (MIs) to mitigate misbehavior. Today, MIs are one-size-fits-all, meaning that each intervention is applied in the same way for all users. However, not all users are the same, as they have diverse demographics, ideologies, and personalities. This naive approach to content moderation is platform-centered and neglects user differences. Moreover, content moderation resembles art more than science. The design of MIs is based on common sense and intuition, and progress is sought via trial-and-error rather than via a rigorous scientific process. The inevitable consequence is that current MIs have variable effectiveness, are highly unreliable, and fall short of the moderation needs.
The ambitious goal of DEDUCE is to initiate a paradigm-shift in content moderation, by building the theoretical and methodological foundations to move from intuition-driven approaches enforced via one-size-fits-all MIs, to science-driven strategies grounded on personalized moderation interventions (PMIs). We will develop causal methods and indicators to evaluate the effectiveness and fairness of current content moderation practices. Then, we will study how user characteristics influence the outcomes of moderation. Finally, we will leverage the acquired knowledge to design and evaluate PMIs, a first-of-its-kind endeavor. Our data-driven approach will enable us to evaluate in advance the effects of many MIs (what-if analyses) and to plan ahead their application, rather than to assess and correct afterwards. The high-gain nature of DEDUCE is evident, as it will open new directions of research (e.g. the design of PMIs), while also providing major practical and social benefits. Our results will yield groundbreaking advancements in the theory and practice of content moderation, and will be embodied in (i) practical guidelines for moderators and policymakers and (ii) an open-source proof-of-concept system to support both human and automated moderation.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2023-STG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC -Gastgebende Einrichtung
00185 Roma
Italien