Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Designing Social Media Recommendation Algorithms for Societal Good

Description du projet

Des solutions numériques pour un discours en ligne résilient et responsable

Les plateformes de médias sociaux ont été conçues comme des espaces de connexion. Aujourd’hui, elles façonnent également le discours public. Cependant, les algorithmes qui guident le contenu peuvent involontairement perturber un dialogue civique constructif. Par exemple, ils peuvent créer une culture de l’indignation, diffuser de la mésinformation et favoriser la division entre les personnes. Alors que le règlement sur les services numériques de l’UE oblige les plateformes à s’attaquer aux risques systémiques, les solutions pratiques font toujours défaut. C’est dans cette optique que le projet DeSiRe, financé par le CER, vise à redéfinir les algorithmes en tenant compte des objectifs civiques. Il créera des jumeaux numériques open source pour expérimenter des recommandations destinées à améliorer la qualité de l’information, la diversité des contenus et la civilité. En outre, il concevra des outils d’évaluation des risques et des recommandations politiques, établissant les principes démocratiques comme norme d’orientation dans la conception algorithmique.

Objectif

Social media platforms are central for civic discourse yet evidence is mounting that they play a causal role in deteriorating social cohesion.
User behaviour on social media platforms is governed by content recommendation algorithms that maximise engagement, leading to unintended consequences such as the promotion of outrage.
The EU's newly enacted Digital Services Act mandates social media platforms to assess their systemic risks for society.
However, the current challenge lies in translating abstract risks to concrete platform design changes that reduce such risks.
We will bridge this gap by combining approaches from social science and computer science to incorporate the reduction of risk to civic discourse into content recommendation algorithms of social media platforms.
To this end, we will employ a participation-based approach to develop novel algorithms that consider various aspects of civic discourse, such as information quality and diversity, and the civility of language.
We will develop Open Source digital twins of social media platforms to enable experimentation with new algorithms independent of platform companies.
To balance the reduction of risk to civic discourse and freedom of expression, we will solicit people's preferences in different scenarios such as a public health crisis and elections, and develop balanced algorithms.
Lastly, we will develop a scenario-based risk assessment framework to assess algorithms and provide policy recommendations for interventions in content recommendation algorithms.

The originality of DeSiRe stands out in that to date democratic values and fundamental rights played no role in the design of content recommendation algorithms.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2024-STG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

UNIVERSITAET GRAZ
Contribution nette de l'UE
€ 2 037 464,00
Coût total
€ 2 037 464,00

Bénéficiaires (1)