Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Interpretable individuaL Latent neUral Mapping for post-hoc Explanations of high-dimensional tabular data applied to science

Opis projektu

Jak sprawić, by sztuczna inteligencja stała się technologią zorientowaną na człowieka w badaniach medycznych

W kluczowych dziedzinach, takich jak medycyna, niezbędna jest absolutna przejrzystość, aby można było bezpiecznie zaufać sztucznej inteligencji. Kwestią tą zajmował się pięcioletni projekt, w ramach którego powstały narzędzia, które ujawniają ukryte procesy rozumowania sztucznej inteligencji. Głównym narzędziem jest ILLUME, które z powodzeniem przekłada złożone decyzje uczenia maszynowego typu „czarna skrzynka” na jasne, zrozumiałe dla człowieka wyjaśnienia. Finansowany przez ERBN projekt ILLUME-4-Science ma na celu rozszerzenie możliwości ILLUME. Po pierwsze, naukowcy wdrożą ILLUME w naukach biomedycznych, współpracując z ekspertami w celu uzyskania nowych spostrzeżeń z dziedziny farmakologii i badań nad rakiem. Po drugie, aby zwiększyć użyteczność narzędzia, naukowcy dodadzą płynny interfejs konwersacyjny. Umożliwi to im łatwą analizę złożonych typów danych, w tym obrazów medycznych, szeregów czasowych i profili genetycznych. Platforma ma na celu ustanowienie nowego globalnego standardu w zakresie transparentnej, zorientowanej na człowieka sztucznej inteligencji.

Cel

Explainable Artificial Intelligence (XAI) is essential for deploying trustworthy AI systems, especially in critical fields where transparency is key. Our XAI ERC project (2019-2025) has focused on developing post-hoc “explainers” for black-box machine learning models.
A key outcome of this project is ILLUME, a meta-explainer that generates a complex global surrogate model to mimic a black-box system. When applied to individual inputs, this model becomes interpretable and can produce multiple explanation formats, including feature relevance, decision rules, and counterfactuals, for tabular data. Compared to competitors, ILLUME has shown superior accuracy, robustness, and quality, establishing itself as a breakthrough post-hoc XAI approach.
Our current proposal aims to consolidate ILLUME's capabilities in two main intertwined directions:
i) Demonstrate Scientific Impact: We will prove ILLUME's effectiveness as an “XAI4Science” tool by applying it to complex biomedical problems, specifically in pharmacology and cancer research. By collaborating with expert biomedical scientists, we will show how ILLUME can provide valuable insights and new hypotheses where explanation is often more crucial than prediction. We will also implement training materials to enable scientists to use ILLUME independently.
ii) Enhance Usability: We will transform ILLUME into a widely accessible toolset with a smooth user interface, expanding its support to high-dimensional data like genetic and proteomic data, as well as new modalities such as time series and images. This will include adapting the conversational user interface developed in the XAI project to work with ILLUME, broadening its practical use.
By combining advanced explanation capabilities, support for diverse data types, and an accessible interface, the enhanced ILLUME toolset is poised to become a unified, scalable framework for post-hoc explainability with the potential to set a new standard for transparent and human-centered AI.

Dziedzina nauki (EuroSciVoc)

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2025-POC

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

SCUOLA NORMALE SUPERIORE
Wkład UE netto
€ 100 000,00
Koszt całkowity
Brak danych

Beneficjenci (2)