Descrizione del progetto
Bilanciare equità e accuratezza nello sviluppo di tecnologie basate sull’apprendimento automatico conformi ai principi etici
Progettare algoritmi di apprendimento automatico (ML, machine learning) che assicurino l’equità non è un compito facile: la sfida in tal ambito risiede nella necessità di contrastare lo squilibrio dei dati di addestramento e le ingerenze umane. In questo contesto, il progetto FairML, finanziato dal programma di azioni Marie Skłodowska-Curie, effettuerà una previsione dei limiti nei vincoli di equità e nei compromessi messi in atto tra equità e accuratezza. Ricorrendo all’impiego di un insieme di classificatori con voto di maggioranza, il progetto intende annullare gli errori e le ingerenze integrando inoltre l’ottimalità di Pareto, il tracciamento delle distorsioni illegali e l’acquisizione dell’equità a lungo termine per rispettare le leggi anti-subordinazione. Mediante un’incorporazione degli strumenti della teoria dell’apprendimento, tra cui la causalità e l’apprendimento online, FairML punta alla responsabilità morale nella progettazione degli algoritmi, migliorando in tal modo la comprensione scientifica e allineando i concetti di equità con le controparti legali, con conseguenti impatti su applicazioni di reclutamento, giustizia penale e prestiti, a beneficio della società in generale.
Obiettivo
Designing fair machine learning algorithms is challenging because the training data is often imbalanced and reflects (sometimes subconscious) biases of human annotators, leading to a possible propagation of biases into future decision-making. Besides, enforcing fairness usually leads to an inevitable deterioration of accuracy due to restrictions on the space of classifiers. In this project, I will address this challenge by developing oracle bounds of fairness restraints and a Pareto-dominated trade-off between fairness and accuracy using ensemble classifiers with the majority vote, to cancel out not only errors but also biases. I will also develop illegal bias tracing and long-term fairness capturing to comply with anti-subordination lawfully, using learning theory tools including causality and online learning for moral responsibility. The central objective of this proposal is to gain a theoretical understanding of fairness and to design machine learning algorithms that simultaneously improve both fairness and accuracy. The study is essential both for improved scientific understanding of fairness in machine learning models, and for the development of fairer algorithms for the numerous application domains, such as recruitment, criminal judging, or lending. Moreover, the project also takes interdisciplinary knowledge of economics and law into account to avoid fairness concepts in machine learning from being misaligned with their legal counterparts, enlarging the impact of machine learning applications and giving back to the wider community.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Siamo spiacenti… si è verificato un errore inatteso durante l’esecuzione.
È necessario essere autenticati. La sessione potrebbe essere scaduta.
Grazie per il tuo feedback. Riceverai presto un'e-mail di conferma dell'invio. Se hai scelto di ricevere una notifica sullo stato della segnalazione, sarai contattato anche quando lo stato della segnalazione cambierà.
Parole chiave
Programma(i)
- HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) Main Programme
Invito a presentare proposte
(si apre in una nuova finestra) HORIZON-MSCA-2022-PF-01
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-TMA-MSCA-PF-EF -Coordinatore
1165 Kobenhavn
Danimarca