Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Interpretable individuaL Latent neUral Mapping for post-hoc Explanations of high-dimensional tabular data applied to science

Projektbeschreibung

KI zu einer menschenzentrierten Technologie für die medizinische Forschung machen

In kritischen Bereichen wie der Medizin ist absolute Transparenz erforderlich, um der KI vertrauen zu können. Ein fünfjähriges Projekt begegnete diesem Bedarf, indem es Werkzeuge entwickelte, die die verborgenen Entscheidungsprozesse von KI-Systemen sichtbar machen. Das zentrale Instrument heißt ILLUME und übersetzt komplexe Entscheidungen von Black-Box-Systemen des maschinellen Lernens erfolgreich in klare, für Menschen verständliche Erklärungen. Das vom Europäischen Forschungsrat finanzierte Projekt „ILLUME-4-Science“ zielt darauf ab, die Fähigkeiten von ILLUME zu erweitern. Zum einen werden die Forschenden ILLUME in der biomedizinischen Forschung einsetzen und in Zusammenarbeit mit Experten neue Erkenntnisse für die Pharmakologie und die Krebsforschung gewinnen. Zweitens werden die Forschenden zur Verbesserung der Benutzerfreundlichkeit des Tools eine intuitive dialogorientierte Schnittstelle hinzufügen. Dies wird es den Wissenschaftlerinnen und Wissenschaftlern ermöglichen, komplexe Datentypen wie medizinische Bilder, Zeitreihen und genetische Profile problemlos zu analysieren. Das Rahmenwerk soll einen neuen globalen Standard für transparente, menschenzentrierte KI setzen.

Ziel

Explainable Artificial Intelligence (XAI) is essential for deploying trustworthy AI systems, especially in critical fields where transparency is key. Our XAI ERC project (2019-2025) has focused on developing post-hoc “explainers” for black-box machine learning models.
A key outcome of this project is ILLUME, a meta-explainer that generates a complex global surrogate model to mimic a black-box system. When applied to individual inputs, this model becomes interpretable and can produce multiple explanation formats, including feature relevance, decision rules, and counterfactuals, for tabular data. Compared to competitors, ILLUME has shown superior accuracy, robustness, and quality, establishing itself as a breakthrough post-hoc XAI approach.
Our current proposal aims to consolidate ILLUME's capabilities in two main intertwined directions:
i) Demonstrate Scientific Impact: We will prove ILLUME's effectiveness as an “XAI4Science” tool by applying it to complex biomedical problems, specifically in pharmacology and cancer research. By collaborating with expert biomedical scientists, we will show how ILLUME can provide valuable insights and new hypotheses where explanation is often more crucial than prediction. We will also implement training materials to enable scientists to use ILLUME independently.
ii) Enhance Usability: We will transform ILLUME into a widely accessible toolset with a smooth user interface, expanding its support to high-dimensional data like genetic and proteomic data, as well as new modalities such as time series and images. This will include adapting the conversational user interface developed in the XAI project to work with ILLUME, broadening its practical use.
By combining advanced explanation capabilities, support for diverse data types, and an accessible interface, the enhanced ILLUME toolset is poised to become a unified, scalable framework for post-hoc explainability with the potential to set a new standard for transparent and human-centered AI.

Wissenschaftliches Gebiet (EuroSciVoc)

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2025-POC

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

SCUOLA NORMALE SUPERIORE
Netto-EU-Beitrag
€ 100 000,00
Adresse
PIAZZA DEI CAVALIERI 7
56126 Pisa
Italien
Region
Centro (IT) Toscana Pisa
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
Keine Daten

Begünstigte (2)