Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Interpretable individuaL Latent neUral Mapping for post-hoc Explanations of high-dimensional tabular data applied to science

Description du projet

Faire de l’IA une technologie centrée sur l’humain pour la recherche médicale

Des domaines critiques comme la médecine exigent une transparence absolue pour pouvoir faire confiance à l’IA en toute sécurité. Un projet de cinq ans a répondu à ce besoin en créant des outils qui mettent au jour le raisonnement caché de l’IA. L’outil principal, appelé ILLUME, traduit avec succès les décisions complexes de modèles d’apprentissage automatique fonctionnant comme des boîtes noires en explications claires et compréhensibles par l’humain. Le projet ILLUME-4-Science, financé par le CER, vise à étendre les capacités d’ILLUME. Dans un premier temps, les chercheurs déploieront ILLUME dans les sciences biomédicales, en collaboration avec des experts, afin de mettre au jour de nouvelles connaissances utiles à la pharmacologie et à la recherche sur le cancer. Dans un second temps, afin d’améliorer la facilité d’utilisation de l’outil, les chercheurs ajouteront une interface conversationnelle fluide. Les scientifiques pourront ainsi analyser facilement des types de données complexes, notamment des images médicales, des séries temporelles et des profils génétiques. Ce cadre vise à établir une nouvelle norme mondiale pour une IA transparente et centrée sur l’humain.

Objectif

Explainable Artificial Intelligence (XAI) is essential for deploying trustworthy AI systems, especially in critical fields where transparency is key. Our XAI ERC project (2019-2025) has focused on developing post-hoc “explainers” for black-box machine learning models.
A key outcome of this project is ILLUME, a meta-explainer that generates a complex global surrogate model to mimic a black-box system. When applied to individual inputs, this model becomes interpretable and can produce multiple explanation formats, including feature relevance, decision rules, and counterfactuals, for tabular data. Compared to competitors, ILLUME has shown superior accuracy, robustness, and quality, establishing itself as a breakthrough post-hoc XAI approach.
Our current proposal aims to consolidate ILLUME's capabilities in two main intertwined directions:
i) Demonstrate Scientific Impact: We will prove ILLUME's effectiveness as an “XAI4Science” tool by applying it to complex biomedical problems, specifically in pharmacology and cancer research. By collaborating with expert biomedical scientists, we will show how ILLUME can provide valuable insights and new hypotheses where explanation is often more crucial than prediction. We will also implement training materials to enable scientists to use ILLUME independently.
ii) Enhance Usability: We will transform ILLUME into a widely accessible toolset with a smooth user interface, expanding its support to high-dimensional data like genetic and proteomic data, as well as new modalities such as time series and images. This will include adapting the conversational user interface developed in the XAI project to work with ILLUME, broadening its practical use.
By combining advanced explanation capabilities, support for diverse data types, and an accessible interface, the enhanced ILLUME toolset is poised to become a unified, scalable framework for post-hoc explainability with the potential to set a new standard for transparent and human-centered AI.

Champ scientifique (EuroSciVoc)

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2025-POC

Voir tous les projets financés au titre de cet appel

Institution d’accueil

SCUOLA NORMALE SUPERIORE
Contribution nette de l'UE
€ 100 000,00
Coût total
Aucune donnée

Bénéficiaires (2)