Description du projet
Une IA plus intelligente, transparente et digne de confiance
Comprendre les liens de causalité est indispensable dans le monde de l’IA, en particulier dans des domaines tels que les soins de santé et la finance, où les décisions ont une incidence majeure sur les vies et les économies. Les modèles d’IA actuels manquent souvent de transparence et s’appuient sur des méthodes opaques qui compliquent la vérification ou la contestation des résultats par les experts. Pour combler cette lacune, le projet CArLA, financé par le CER,entend révolutionner la découverte des causes, c’est-à-dire l’identification des relations de cause à effet à partir des données. S’appuyant sur des méthodologies robustes et sur les principes d’IA explicable (XAI) du projet ERC ADIX, la plateforme CArLA rendra la découverte des causes plus transparente, plus interactive et plus contestable. Le projet développera des démonstrateurs dans les secteurs de la santé et de la finance,qui permettront aux experts d’influencer et de vérifier les informations générées par l’IA, favorisant ainsi une approche de l’IA plus fiable et alignée sur l’humain pour les prises de décision à fort enjeu.
Objectif
Causal AI is widely perceived as crucial in the current AI landscape as it allows capturing causal effects amongst features in data, rather than simple correlations. Causal discovery is an important aspect of machine learning as it paves the way towards achieving Causal AI. It amounts to extracting causal graphs from data, encoding the structure of causal relations amongst features in data. There is a gap in the state-of-the-art in AI as concerns causal discovery, in that most approaches are black-boxes, hard to understand and explain, and unable to engage domain experts to integrate and possibly contest the learnt graphs when they are misaligned with human knowledge and values. CArLA aims at developing a platform for transparent, explainable, interactive and contestable causal discovery, based upon an existing principled methodology and prototype, as well as XAI techniques, developed within the ERC Advanced ADIX project. CArLA’s platform will support understanding the causal discovery process from data and experts while being able to influence it. Any developer or user of applications in high-stakes domains will benefit from using this uniquely trustworthy platform. CArLA aims to develop two demonstrators of the beneficial use of the platform in the high-stakes domains of healthcare and finance, to pave the way to commercialisation with a spinout.
Programme(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Appel à propositions
(s’ouvre dans une nouvelle fenêtre) ERC-2024-POC
Voir d’autres projets de cet appelRégime de financement
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsInstitution d’accueil
SW7 2AZ LONDON
Royaume-Uni