Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Interpretable individuaL Latent neUral Mapping for post-hoc Explanations of high-dimensional tabular data applied to science

Descrizione del progetto

Rendere l’IA una tecnologia incentrata sull’uomo per la ricerca medica

Settori critici come la medicina richiedono una trasparenza assoluta per poter riporre fiducia nell’IA in tutta sicurezza. Un progetto quinquennale ha affrontato questa esigenza creando strumenti in grado di svelare il ragionamento nascosto dell’intelligenza artificiale. Lo strumento principale si chiama ILLUME, che riesce a tradurre le complesse decisioni a scatola nera dell’apprendimento automatico, in spiegazioni chiare e comprensibili per l’uomo. Il progetto ILLUME-4-Science, finanziato dal CER, intende ampliare le capacità di ILLUME. In primo luogo, i ricercatori implementeranno ILLUME nel campo delle scienze biomediche, collaborando con esperti per scoprire nuove intuizioni per la farmacologia e la ricerca sul cancro. In secondo luogo, per migliorare l’usabilità dello strumento, i ricercatori aggiungeranno un’interfaccia conversazionale intuitiva. Ciò consentirà agli scienziati di analizzare facilmente tipi di dati complessi, tra cui immagini mediche, serie temporali e profili genetici. L’obiettivo del framework è stabilire un nuovo standard globale per un’IA trasparente e incentrata sull’uomo.

Obiettivo

Explainable Artificial Intelligence (XAI) is essential for deploying trustworthy AI systems, especially in critical fields where transparency is key. Our XAI ERC project (2019-2025) has focused on developing post-hoc “explainers” for black-box machine learning models.
A key outcome of this project is ILLUME, a meta-explainer that generates a complex global surrogate model to mimic a black-box system. When applied to individual inputs, this model becomes interpretable and can produce multiple explanation formats, including feature relevance, decision rules, and counterfactuals, for tabular data. Compared to competitors, ILLUME has shown superior accuracy, robustness, and quality, establishing itself as a breakthrough post-hoc XAI approach.
Our current proposal aims to consolidate ILLUME's capabilities in two main intertwined directions:
i) Demonstrate Scientific Impact: We will prove ILLUME's effectiveness as an “XAI4Science” tool by applying it to complex biomedical problems, specifically in pharmacology and cancer research. By collaborating with expert biomedical scientists, we will show how ILLUME can provide valuable insights and new hypotheses where explanation is often more crucial than prediction. We will also implement training materials to enable scientists to use ILLUME independently.
ii) Enhance Usability: We will transform ILLUME into a widely accessible toolset with a smooth user interface, expanding its support to high-dimensional data like genetic and proteomic data, as well as new modalities such as time series and images. This will include adapting the conversational user interface developed in the XAI project to work with ILLUME, broadening its practical use.
By combining advanced explanation capabilities, support for diverse data types, and an accessible interface, the enhanced ILLUME toolset is poised to become a unified, scalable framework for post-hoc explainability with the potential to set a new standard for transparent and human-centered AI.

Campo scientifico (EuroSciVoc)

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2025-POC

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

SCUOLA NORMALE SUPERIORE
Contributo netto dell'UE
€ 100 000,00
Indirizzo
PIAZZA DEI CAVALIERI 7
56126 Pisa
Italia
Regione
Centro (IT) Toscana Pisa
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
Nessun dato

Beneficiari (2)