Description du projet
Étudier l’impact de l’IA sur les droits de l’homme et l’égalité
Le cadre juridique de la protection de l’égalité au sein de l’UE est-il adapté et capable de répondre à la discrimination algorithmique? Le projet PROFILE, financé par l’UE, vise à répondre à ce problème en faisant avancer la recherche socio-légale sur l’impact de l’IA sur les droits de l’homme, et en particulier sur l’égalité et la non discrimination. Plus spécifiquement, il étudiera deux problèmes majeurs: la manière dont le profilage algorithmique augmente les risques d’inégalité et de discrimination, et la manière dont la discrimination induite par les algorithmes risque d’échapper aux catégories juridiques bien définies des lois anti-discrimination. Le projet PROFILE explorera ainsi la manière dont ces nouvelles formes de discrimination guidées par la technologie perturbent et posent des problèmes au cadre juridique anti‑discriminatoire de l’UE, et il s’intéressera aux solutions réglementaires susceptibles d’y remédier.
Objectif
As the number and reach of artificial intelligence (AI) applications are rapidly growing, empirical evidence and global awareness about the structural and systemic risks of discrimination (‘algorithmic bias’) linked to these technologies have increased over the past years. One AI technology has attracted particular attention: based on data mining, algorithmic profiling uses big data to target citizens based on their preferences, behaviors, but also social membership and status. In so doing, algorithms externally and autonomously ascribe profiles to citizens based on fragments of data. The algorithms freeze citizens’ identities and exacerbate their differences, thus shaping their reality by affecting the distribution of goods, services, and opportunities available. The PROFILE project address two key issues related to AI: 1) algorithmic profiling increases risks of inequality and discrimination and, 2) algorithmic data-based discrimination takes on different forms than human discrimination, thus casting doubt on the adequateness of existing legal remedies. These issues forms the base for PROFILE’s core research question: Is the legal framework for equality protection in the European Union (EU) adapted to and capable of tackling algorithmic discrimination? I will address the problem of algorithmic discrimination through three central inquiries: 1) How does algorithmic discrimination differ from human discrimination? 2) How do these new forms of technology-driven discrimination disrupt and challenge the anti-discrimination legal framework in place in EU? 3) What regulatory solutions can be proposed within and outside EU anti-discrimination law in order to efficiently remedy algorithmic discrimination? My ambition is both to advance legal research on AI and human rights and to concretely inform societal and policy responses to the challenge of AI regulation. The proposed project is highly topical in the light of the rapid development and use of AI applications.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
- sciences naturellesinformatique et science de l'informationintelligence artificielle
- sciences naturellesinformatique et science de l'informationscience des donnéesmégadonnées
- sciences naturellesinformatique et science de l'informationscience des donnéesexploration de données
- sciences socialessociologieproblèmes de sociétéinégalité sociale
- sciences socialesdroitdroits de l'homme
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Programme(s)
Appel à propositions
(s’ouvre dans une nouvelle fenêtre) H2020-MSCA-IF-2019
Voir d’autres projets de cet appelRégime de financement
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Coordinateur
1165 Kobenhavn
Danemark