Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Designing Social Media Recommendation Algorithms for Societal Good

Opis projektu

Rozwiązania cyfrowe z myślą o odpornym i odpowiedzialnym dyskursie online

Platformy mediów społecznościowych zostały zaprojektowane jako przestrzenie do nawiązywania kontaktów. Dziś kształtują one również dyskurs publiczny. Algorytmy kierujące treściami mogą jednak nieumyślnie zakłócać konstruktywny dialog obywatelski. Przykładowo, mogą one tworzyć kulturę sprzeciwu, szerzyć dezinformację i sprzyjać podziałom wśród ludzi. Chociaż unijny akt prawny o usługach cyfrowych zobowiązuje platformy do przeciwdziałania ryzyku systemowemu, wciąż brakuje praktycznych rozwiązań. Mając to na uwadze, zespół finansowanego przez ERBN projektu DeSiRe przeprojektuje algorytmy z myślą o celach obywatelskich. Badacze opracują cyfrowe bliźniaki typu open source, aby eksperymentować z zaleceniami, które poprawiają jakość informacji, różnorodność treści i obywatelskość. Ponadto opracują narzędzia oceny ryzyka i zalecenia dotyczące polityki, ustanawiając zasady demokratyczne jako wiodący standard w projektowaniu algorytmów.

Cel

Social media platforms are central for civic discourse yet evidence is mounting that they play a causal role in deteriorating social cohesion.
User behaviour on social media platforms is governed by content recommendation algorithms that maximise engagement, leading to unintended consequences such as the promotion of outrage.
The EU's newly enacted Digital Services Act mandates social media platforms to assess their systemic risks for society.
However, the current challenge lies in translating abstract risks to concrete platform design changes that reduce such risks.
We will bridge this gap by combining approaches from social science and computer science to incorporate the reduction of risk to civic discourse into content recommendation algorithms of social media platforms.
To this end, we will employ a participation-based approach to develop novel algorithms that consider various aspects of civic discourse, such as information quality and diversity, and the civility of language.
We will develop Open Source digital twins of social media platforms to enable experimentation with new algorithms independent of platform companies.
To balance the reduction of risk to civic discourse and freedom of expression, we will solicit people's preferences in different scenarios such as a public health crisis and elections, and develop balanced algorithms.
Lastly, we will develop a scenario-based risk assessment framework to assess algorithms and provide policy recommendations for interventions in content recommendation algorithms.

The originality of DeSiRe stands out in that to date democratic values and fundamental rights played no role in the design of content recommendation algorithms.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC - HORIZON ERC Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2024-STG

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

UNIVERSITAET GRAZ
Wkład UE netto
€ 2 037 464,00
Koszt całkowity
€ 2 037 464,00

Beneficjenci (1)