Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Designing Social Media Recommendation Algorithms for Societal Good

Descripción del proyecto

Tecnologías digitales para un discurso en línea resiliente y responsable

Las plataformas de redes sociales se diseñaron como espacios de conexión. Hoy también conforman el discurso público. Sin embargo, los algoritmos que guían los contenidos pueden perturbar involuntariamente un diálogo cívico constructivo. Por ejemplo, los algoritmos pueden crear una cultura de la indignación, difundir información errónea y fomentar la división entre las personas. Aunque la Ley de Servicios Digitales de la Unión Europea (UE) obliga a las plataformas a abordar los riesgos sistémicos, siguen faltando soluciones prácticas. Con esto en mente, el equipo del proyecto DeSiRe, financiado por el CEI, pretende rediseñar algoritmos con objetivos cívicos. Construirá gemelos digitales de código abierto para experimentar con recomendaciones que mejoren la calidad de la información, la diversidad de contenidos y el civismo. Además, diseñará herramientas de evaluación de riesgos y recomendaciones políticas, y esatablecerá principios democráticos como norma rectora del diseño algorítmico.

Objetivo

Social media platforms are central for civic discourse yet evidence is mounting that they play a causal role in deteriorating social cohesion.
User behaviour on social media platforms is governed by content recommendation algorithms that maximise engagement, leading to unintended consequences such as the promotion of outrage.
The EU's newly enacted Digital Services Act mandates social media platforms to assess their systemic risks for society.
However, the current challenge lies in translating abstract risks to concrete platform design changes that reduce such risks.
We will bridge this gap by combining approaches from social science and computer science to incorporate the reduction of risk to civic discourse into content recommendation algorithms of social media platforms.
To this end, we will employ a participation-based approach to develop novel algorithms that consider various aspects of civic discourse, such as information quality and diversity, and the civility of language.
We will develop Open Source digital twins of social media platforms to enable experimentation with new algorithms independent of platform companies.
To balance the reduction of risk to civic discourse and freedom of expression, we will solicit people's preferences in different scenarios such as a public health crisis and elections, and develop balanced algorithms.
Lastly, we will develop a scenario-based risk assessment framework to assess algorithms and provide policy recommendations for interventions in content recommendation algorithms.

The originality of DeSiRe stands out in that to date democratic values and fundamental rights played no role in the design of content recommendation algorithms.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-ERC - HORIZON ERC Grants

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) ERC-2024-STG

Ver todos los proyectos financiados en el marco de esta convocatoria

Institución de acogida

UNIVERSITAET GRAZ
Aportación neta de la UEn
€ 2 037 464,00
Dirección
UNIVERSITATSPLATZ 3
8010 Graz
Austria
Región
Südösterreich Steiermark Graz
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
€ 2 037 464,00

Beneficiarios (1)