Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Multi-Attribute, Multimodal Bias Mitigation in AI Systems

Opis projektu

Sprawiedliwe traktowanie i eliminacja stronniczości sztucznej inteligencji

Sztuczna inteligencja (SI) może spełnić obietnicę dotyczącą rozwiązania wielu problemów natury biznesowej i społecznej, ale niesie też ryzyko przypadkowej dyskryminacji grup mniejszościowych i marginalizowanych. Badacze z finansowanego ze środków UE projektu MAMMOth chcą rozwiązać problem stronniczości, koncentrując się na eliminowaniu dyskryminacji na wielu poziomach w kontekście danych tabelarycznych, sieciowych i multimodalnych. Dzięki współpracy z informatykami i ekspertami z dziedziny SI, twórcy projektu stworzą narzędzia na potrzeby budowania SI uwzględniającej sprawiedliwe traktowanie i dającej gwarancję wiarygodności w odniesieniu do atrybutów chronionych, takich jak płeć, rasa i wiek. Badacze będą się również konsultowali z przedstawicielami grup nieuprzywilejowanych i niedostatecznie reprezentowanych w badaniach nad SI, aby zapewnić, że potrzeby użytkowników i ich bolączki zostaną właściwie uwzględnione. Głównym celem jest opracowanie projektów pilotażowych dotyczących zastosowań w obszarze finansów i kredytów, weryfikacji tożsamości i oceny akademickiej.

Cel

Artificial Intelligence (AI) is increasingly employed by businesses, governments, and other organizations to make decisions with far-reaching impacts on individuals and society. This offers big opportunities for automation in different sectors and daily life, but at the same time it brings risks for discrimination of minority and marginal population groups on the basis of the so-called protected attributes, like gender, race, and age. Despite the large body of research to date, the proposed methods work in limited settings, under very constrained assumptions, and do not reflect the complexity and requirements of real world applications.
To this end, the MAMMOth project focuses on multi-discrimination mitigation for tabular, network and multimodal data. Through its computer science and AI experts, MAMMOth aims at addressing the associated scientific challenges by developing an innovative fairness-aware AI-data driven foundation that provides the necessary tools and techniques for the discovery and mitigation of (multi-)discrimination and ensures the accountability of AI-systems with respect to multiple protected attributes and for traditional tabular data and more complex network and visual data.
The project will actively engage with numerous communities of vulnerable and/or underrepresented groups in AI research right from the start, adopting a co-creation approach, to make sure that actual user needs and pains are at the centre of the research agenda and act as guidance to the project’s activities. A social science-driven approach supported by social science and ethics experts will guide project research, and a science communication approach will increase the outreach of the outcomes.
The project aims to demonstrate through pilots the developed solutions into three relevant sectors of interest: a) finance/loan applications, b) identity verification systems, and c) academic evaluation.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-RIA - HORIZON Research and Innovation Actions

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-CL4-2021-HUMAN-01

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS
Wkład UE netto
€ 580 625,00
Adres
CHARILAOU THERMI ROAD 6 KM
570 01 THERMI THESSALONIKI
Grecja
Region
Βόρεια Ελλάδα Κεντρική Μακεδονία Θεσσαλονίκη
Rodzaj działalności
Research Organisations
Linki
Koszt całkowity
€ 580 625,00

Uczestnicy (11)

Partnerzy (1)