Description du projet
Une boîte à outils innovante pour contrôler la partialité de la technologie de l’IA
De nouvelles tendances ont stimulé une utilisation considérablement accrue de la technologie des modèles d’intelligence artificielle (IA) dans différents secteurs, notamment la finance, l’éducation et les soins de santé. Toutefois, cette expansion a suscité des inquiétudes quant à la partialité de ces algorithmes et à leur conformité avec la loi européenne sur l’IA. Dans ce contexte, le projet Act.AI financé par le CER, s’efforce de relever ce défi en développant une solution qui s’appuie sur l’appariement statistique pour atténuer et vérifier les biais dans les modèles d’IA, qui sont de plus en plus difficiles à identifier. Le projet vise donc à créer un outil facilement intégrable pour les flux de travail de l’IA, offrant une surveillance continue et des capacités de remédiation.
Objectif
The vision behind Act.AI is to utilize statistical matching for mitigating and auditing bias in Artificial Intelligence (AI) models. AI has been rapidly growing in various industries, from financial services to healthcare, education, and job recruitment. However, as AI algorithms have become increasingly sophisticated and pervasive in decision-making processes, concerns have arisen about their fairness and compliance with regulations. In particular, the EU AI Act requires that AI providers in high-risk applications -- such as employment, credit, or healthcare -- to identify (and thereby address) discrimination by their algorithms against certain demographics of people. However, ensuring compliance with the Act can be challenging, particularly for AI startups that may not have the resources or expertise to fully understand and implement the Act's requirements. Addressing existing disconnects between AI fairness toolkits' capabilities and current practitioner needs, the Act.AI tool can be easily integrated into any AI workflow, in a plug and play fashion, to continuously monitor and improve its fairness. A key aspect of Act.AI is the ability to operate with different types of data (tabular, images, and text) in a variety of contexts (binary and multiclass classification and regression). It is also able to match datasets in different domains including out-of-distribution data even if these datasets have different numbers of variables or features. To ensure usability of Act.AI it will integrate feedback from relevant stakeholders from two immediate target markets: financial service and healthcare.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
- sciences socialessociologieproblèmes de sociétéinégalité sociale
- sciences naturellesinformatique et science de l'informationintelligence artificielleapprentissage automatique
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Mots‑clés
Programme(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Régime de financement
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsInstitution d’accueil
48009 Bilbao
Espagne