Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Multi-Attribute, Multimodal Bias Mitigation in AI Systems

Projektbeschreibung

Mehr Fairness und Minimierung von Vorurteilen in der KI

Künstliche Intelligenz (KI) ist ein vielversprechendes Mittel zur Lösung wirtschaftlicher und sozialer Probleme, birgt aber auch die Gefahr, dass Minderheiten und Randgruppen ungewollt diskriminiert werden. Das EU-finanzierte Projekt MAMMOth befasst sich mit dieser Verzerrung, indem es sich auf die Abschwächung der Mehrfachdiskriminierung von tabellarischen, netzwerkbasierten und multimodalen Daten konzentriert. In Zusammenarbeit mit Fachleuten für Informatik und KI werden im Rahmen des Projekts Werkzeuge für fairnessbewusste KI entwickelt, die die Rechenschaftspflicht in Bezug auf geschützte Merkmale wie Geschlecht, Rasse und Alter gewährleisten. Das Projekt wird sich auch mit Gemeinschaften von gefährdeten und/oder unterrepräsentierten Gruppen in der KI-Forschung auseinandersetzen, um sicherzustellen, dass die Bedürfnisse und Leiden der Nutzenden wirklich im Mittelpunkt der Agenda stehen. Das Endziel ist die Entwicklung von Pilotprojekten für Finanz- und Kreditanträge, Identitätsüberprüfung und akademische Bewertung.

Ziel

Artificial Intelligence (AI) is increasingly employed by businesses, governments, and other organizations to make decisions with far-reaching impacts on individuals and society. This offers big opportunities for automation in different sectors and daily life, but at the same time it brings risks for discrimination of minority and marginal population groups on the basis of the so-called protected attributes, like gender, race, and age. Despite the large body of research to date, the proposed methods work in limited settings, under very constrained assumptions, and do not reflect the complexity and requirements of real world applications.
To this end, the MAMMOth project focuses on multi-discrimination mitigation for tabular, network and multimodal data. Through its computer science and AI experts, MAMMOth aims at addressing the associated scientific challenges by developing an innovative fairness-aware AI-data driven foundation that provides the necessary tools and techniques for the discovery and mitigation of (multi-)discrimination and ensures the accountability of AI-systems with respect to multiple protected attributes and for traditional tabular data and more complex network and visual data.
The project will actively engage with numerous communities of vulnerable and/or underrepresented groups in AI research right from the start, adopting a co-creation approach, to make sure that actual user needs and pains are at the centre of the research agenda and act as guidance to the project’s activities. A social science-driven approach supported by social science and ethics experts will guide project research, and a science communication approach will increase the outreach of the outcomes.
The project aims to demonstrate through pilots the developed solutions into three relevant sectors of interest: a) finance/loan applications, b) identity verification systems, and c) academic evaluation.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-RIA - HORIZON Research and Innovation Actions

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-CL4-2021-HUMAN-01

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS
Netto-EU-Beitrag
€ 580 625,00
Adresse
CHARILAOU THERMI ROAD 6 KM
570 01 THERMI THESSALONIKI
Griechenland
Region
Βόρεια Ελλάδα Κεντρική Μακεδονία Θεσσαλονίκη
Aktivitätstyp
Research Organisations
Links
Gesamtkosten
€ 580 625,00

Beteiligte (11)

Partner (1)