Theory of Fair Machine Learning

Informations projet

FairML

N° de convention de subvention: 101106768

DOI

10.3030/101106768

Date de signature de la CE 30 Novembre 2023

Date de début 1 Août 2024

Date de fin 31 Juillet 2026

Financé au titre de

• Marie Skłodowska-Curie Actions (MSCA)

Coût total

Aucune donnée

Contribution de l’UE

€ 214 934,40

Coordonné par

KOBENHAVNS UNIVERSITET
Denmark

Description du projet

Équilibrer équité et précision dans le développement de l’apprentissage automatique éthique

Concevoir des algorithmes d’apprentissage automatique équitables n’est pas chose aisée. Le défi est lié au déséquilibre entre les données de formation et les préjugés humains. Dans ce contexte, le projet FairML financé par le MSCA développera des limites oraculaires des contraintes d’équité et un compromis entre l’équité et la précision. Il entend annuler les erreurs et les biais en utilisant des classificateurs d’ensemble avec vote majoritaire. Il intègre l’optimalité de Pareto, la traçabilité des biais illégaux et la capture de l’équité à long terme afin de se conformer aux lois anti-subordination. Le projet entend induire une responsabilité morale dans la conception des algorithmes en intégrant les outils de la théorie de l’apprentissage, notamment la causalité et l’apprentissage en ligne. Ceci améliorera la compréhension scientifique et alignera les concepts d’équité sur les contreparties juridiques, ce qui a un impact sur les applications dans les domaines du recrutement, de la justice pénale et des prêts, au bénéfice de la société dans son ensemble.

Objectif

Designing fair machine learning algorithms is challenging because the training data is often imbalanced and reflects (sometimes subconscious) biases of human annotators, leading to a possible propagation of biases into future decision-making. Besides, enforcing fairness usually leads to an inevitable deterioration of accuracy due to restrictions on the space of classifiers. In this project, I will address this challenge by developing oracle bounds of fairness restraints and a Pareto-dominated trade-off between fairness and accuracy using ensemble classifiers with the majority vote, to cancel out not only errors but also biases. I will also develop illegal bias tracing and long-term fairness capturing to comply with anti-subordination lawfully, using learning theory tools including causality and online learning for moral responsibility. The central objective of this proposal is to gain a theoretical understanding of fairness and to design machine learning algorithms that simultaneously improve both fairness and accuracy. The study is essential both for improved scientific understanding of fairness in machine learning models, and for the development of fairer algorithms for the numerous application domains, such as recruitment, criminal judging, or lending. Moreover, the project also takes interdisciplinary knowledge of economics and law into account to avoid fairness concepts in machine learning from being misaligned with their legal counterparts, enlarging the impact of machine learning applications and giving back to the wider community.

Champ scientifique (EuroSciVoc)

• sciences sociales › droit

Mots‑clés

• Fairness
• machine learning
• majority vote
• causality
• multi-armed bandits

Programme(s)

• HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) PROGRAMME PRINCIPAL
  

Thème(s)

• HORIZON-MSCA-2022-PF-01-01 - MSCA Postdoctoral Fellowships 2022
  

Régime de financement

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Appel à propositions

HORIZON-MSCA-2022-PF-01

Coordinateur

KOBENHAVNS UNIVERSITET

• Contribution nette de l'UE: € 214 934,40
• Adresse: NORREGADE 10 ; 1165 KOBENHAVN ; Danemark
• Région: Danmark › Hovedstaden › Byen København
• Type d’activité: Higher or Secondary Education Establishments
• Coût total: Aucune donnée