Opis projektu
Spersonalizowana moderacja w walce z niewłaściwym zachowaniem w Internecie
Platformy internetowe stosują moderację w celu zwalczania niewłaściwego zachowania, jednak stosowane podejście oparte na jednolitych zasadach nie uwzględnia różnic między użytkownikami. Moderowanie treści jest w większym stopniu sztuką niż nauką, natomiast działania moderatorów często opierają się na intuicji, a następnie są udoskonalane metodą prób i błędów. Z tego powodu charakteryzują się zróżnicowaną skutecznością i często nie spełniają oczekiwań. Zespół finansowanego ze środków Europejskiej Rady ds. Badań Naukowych projektu DEDUCE ma na celu dokonanie przełomu w zakresie moderacji treści poprzez wprowadzenie spersonalizowanych działań moderacyjnych. Projekt obejmuje ewaluację obecnych praktyk moderacyjnych oraz ocenę ich skuteczności i sprawiedliwości. Opracowane przez zespół działania będą dostosowane do indywidualnych cech użytkowników, co przyczyn się do zwiększenia ich skuteczności. Ponadto badacze mają na celu opracowanie metod przyczynowych i wskaźników dotyczących praktyk moderacyjnych, umożliwiających proaktywną ocenę wielu działań.
Cel
Online platforms apply moderation interventions (MIs) to mitigate misbehavior. Today, MIs are one-size-fits-all, meaning that each intervention is applied in the same way for all users. However, not all users are the same, as they have diverse demographics, ideologies, and personalities. This naive approach to content moderation is platform-centered and neglects user differences. Moreover, content moderation resembles art more than science. The design of MIs is based on common sense and intuition, and progress is sought via trial-and-error rather than via a rigorous scientific process. The inevitable consequence is that current MIs have variable effectiveness, are highly unreliable, and fall short of the moderation needs.
The ambitious goal of DEDUCE is to initiate a paradigm-shift in content moderation, by building the theoretical and methodological foundations to move from intuition-driven approaches enforced via one-size-fits-all MIs, to science-driven strategies grounded on personalized moderation interventions (PMIs). We will develop causal methods and indicators to evaluate the effectiveness and fairness of current content moderation practices. Then, we will study how user characteristics influence the outcomes of moderation. Finally, we will leverage the acquired knowledge to design and evaluate PMIs, a first-of-its-kind endeavor. Our data-driven approach will enable us to evaluate in advance the effects of many MIs (what-if analyses) and to plan ahead their application, rather than to assess and correct afterwards. The high-gain nature of DEDUCE is evident, as it will open new directions of research (e.g. the design of PMIs), while also providing major practical and social benefits. Our results will yield groundbreaking advancements in the theory and practice of content moderation, and will be embodied in (i) practical guidelines for moderators and policymakers and (ii) an open-source proof-of-concept system to support both human and automated moderation.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Program(-y)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Temat(-y)
System finansowania
HORIZON-ERC - HORIZON ERC GrantsInstytucja przyjmująca
00185 Roma
Włochy