Theory of Fair Machine Learning

Información del proyecto

FairML

Identificador del acuerdo de subvención: 101106768

DOI

10.3030/101106768

Fecha de la firma de la CE 30 Noviembre 2023

Fecha de inicio 1 Agosto 2024

Fecha de finalización 31 Julio 2026

Financiado con arreglo a

• Marie Skłodowska-Curie Actions (MSCA)

Coste total

Sin datos

Aportación de la UE

€ 214 934,40

Coordinado por

KOBENHAVNS UNIVERSITET
Denmark

Descripción del proyecto

Equilibrio entre equidad y precisión en el desarrollo de un aprendizaje automático ético

Diseñar algoritmos de aprendizaje automático justos no es fácil. El reto se debe al desequilibrio de los datos de formación y a los sesgos humanos. En este contexto, el equipo del proyecto FairML, financiado por las acciones Marie Skłodowska-Curie, desarrollará límites de oráculo de restricciones de equidad y un compromiso entre equidad y precisión. Mediante el uso de un conjunto de clasificadores con voto mayoritario, pretende anular errores y sesgos. Además, incorpora la optimalidad de Pareto, el rastreo de sesgos ilegales y la captura de equidad a largo plazo para cumplir las leyes antisubordinación. Mediante la integración de herramientas de la teoría de aprendizaje, como la causalidad y el aprendizaje en línea, el equipo del proyecto aspira a la responsabilidad moral en el diseño de algoritmos. Ello mejora la comprensión científica y armoniza los conceptos de equidad con sus homólogos jurídicos, lo cual repercute en las aplicaciones de contratación, justicia penal y préstamos, beneficiando a la sociedad en general.

Objetivo

Designing fair machine learning algorithms is challenging because the training data is often imbalanced and reflects (sometimes subconscious) biases of human annotators, leading to a possible propagation of biases into future decision-making. Besides, enforcing fairness usually leads to an inevitable deterioration of accuracy due to restrictions on the space of classifiers. In this project, I will address this challenge by developing oracle bounds of fairness restraints and a Pareto-dominated trade-off between fairness and accuracy using ensemble classifiers with the majority vote, to cancel out not only errors but also biases. I will also develop illegal bias tracing and long-term fairness capturing to comply with anti-subordination lawfully, using learning theory tools including causality and online learning for moral responsibility. The central objective of this proposal is to gain a theoretical understanding of fairness and to design machine learning algorithms that simultaneously improve both fairness and accuracy. The study is essential both for improved scientific understanding of fairness in machine learning models, and for the development of fairer algorithms for the numerous application domains, such as recruitment, criminal judging, or lending. Moreover, the project also takes interdisciplinary knowledge of economics and law into account to avoid fairness concepts in machine learning from being misaligned with their legal counterparts, enlarging the impact of machine learning applications and giving back to the wider community.

Ámbito científico (EuroSciVoc)

• ciencias sociales › derecho

Palabras clave

• Fairness
• machine learning
• majority vote
• causality
• multi-armed bandits

Programa(s)

• HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) PROGRAMA PRINCIPAL
  

Tema(s)

• HORIZON-MSCA-2022-PF-01-01 - MSCA Postdoctoral Fellowships 2022
  

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Convocatoria de propuestas

HORIZON-MSCA-2022-PF-01

Coordinador

KOBENHAVNS UNIVERSITET

• Aportación neta de la UEn: € 214 934,40
• Dirección: NORREGADE 10 ; 1165 KOBENHAVN ; Dinamarca
• Región: Danmark › Hovedstaden › Byen København
• Tipo de actividad: Higher or Secondary Education Establishments
• Coste total: Sin datos