Descrizione del progetto
Rendere trasparenti le decisioni dell’IA nel settore dell’assistenza sanitaria
Le severe normative dell’UE, come il GDPR e la nuova legge sull’intelligenza artificiale (IA), richiedono che i sistemi basati su questa tecnologia, soprattutto nel settore sanitario, forniscano spiegazioni trasparenti e significative per le decisioni automatizzate; ciononostante, i metodi per l’IA spiegabile (XAI, eXplainable AI) esistenti, come LIME e SHAP, spesso producono spiegazioni incoerenti che non si allineano alle modalità con cui gli esperti prendono le decisioni. Sostenuto dal programma di azioni Marie Skłodowska-Curie, il progetto CONVEYTab ri prefigge di sviluppare i Tabular Concept Bottleneck Models (TabCBMs), un nuovo approccio di apprendimento profondo che genera spiegazioni di alto livello basate sui concetti. In particolare, il progetto svilupperà il primo framework di analisi visiva al fine di migliorare l’interattività e l’applicabilità nel mondo reale per i professionisti del settore medico, contribuendo a garantire che le previsioni dell’IA siano interpretabili, conformi alle normative e utili per i pazienti affetti da disturbi del movimento e parassiti intestinali.
Obiettivo
The EU's GDPR and the new EU AI Act impose strict requirements on AI systems, especially in high-risk domains like healthcare. These regulations demand transparency and meaningful explanations for automated decisions to ensure adequate human oversight. State-of-the-art eXplainable AI (XAI) methods, such as LIME and SHAP, attempt to meet these demands with low-level explanations. However, these methods often yield inconsistent and decoupled results from high-level concepts that domain experts like physicians use in decision making. In contrast, Deep Learning (DL) models that generate concept-based explanations during training offer more robust and consistent outcomes. Despite their promise, concept-oriented DL models for tabular data remain underdeveloped, with the recent Tabular Concept Bottleneck Models (TabCBMs)—a family of interpretable, self-explaining DL models designed to learn and articulate high-level concept explanations for tabular data as an emerging yet unexplored solution.
CONVEYTab will advance TabCBMs by creating the first Visual Analytics (VA) framework that enhances interactivity and tests their real-world applicability. This framework will be realized through several VA systems tailored for medical professionals, enabling them to create, refine, explain, and compare DL model concepts in real time. This will ensure AI predictions are transparent, aligned with domain expertise, and compliant with EU regulations. CONVEYTab adopts a strong interdisciplinary approach, integrating expertise from life sciences, computer science, and cognitive science to meet the needs of the public sector and broader society. The research will be conducted at Utrecht University's Information and Computing Sciences Department under the supervision of Prof. Dr. Alexandru C. Telea, an influential scholar with extensive experience in DL and XAI. This project will help patients with motion disorders and intestinal parasites and position me as a leading VA for XAI researcher.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: Il Vocabolario Scientifico Europeo.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: Il Vocabolario Scientifico Europeo.
Questo progetto non è ancora stato classificato con EuroSciVoc.
Suggerisci i campi scientifici che ritieni più rilevanti e aiutaci a migliorare il nostro servizio di classificazione.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Parole chiave
Parole chiave del progetto, indicate dal coordinatore del progetto. Da non confondere con la tassonomia EuroSciVoc (campo scientifico).
Parole chiave del progetto, indicate dal coordinatore del progetto. Da non confondere con la tassonomia EuroSciVoc (campo scientifico).
Programma(i)
Programmi di finanziamento pluriennali che definiscono le priorità dell’UE in materia di ricerca e innovazione.
Programmi di finanziamento pluriennali che definiscono le priorità dell’UE in materia di ricerca e innovazione.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
PROGRAMMA PRINCIPALE
Vedi tutti i progetti finanziati nell’ambito di questo programma
Argomento(i)
Gli inviti a presentare proposte sono suddivisi per argomenti. Un argomento definisce un’area o un tema specifico per il quale i candidati possono presentare proposte. La descrizione di un argomento comprende il suo ambito specifico e l’impatto previsto del progetto finanziato.
Gli inviti a presentare proposte sono suddivisi per argomenti. Un argomento definisce un’area o un tema specifico per il quale i candidati possono presentare proposte. La descrizione di un argomento comprende il suo ambito specifico e l’impatto previsto del progetto finanziato.
Meccanismo di finanziamento
Meccanismo di finanziamento (o «Tipo di azione») all’interno di un programma con caratteristiche comuni. Specifica: l’ambito di ciò che viene finanziato; il tasso di rimborso; i criteri di valutazione specifici per qualificarsi per il finanziamento; l’uso di forme semplificate di costi come gli importi forfettari.
Meccanismo di finanziamento (o «Tipo di azione») all’interno di un programma con caratteristiche comuni. Specifica: l’ambito di ciò che viene finanziato; il tasso di rimborso; i criteri di valutazione specifici per qualificarsi per il finanziamento; l’uso di forme semplificate di costi come gli importi forfettari.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento
Invito a presentare proposte
Procedura per invitare i candidati a presentare proposte di progetti, con l’obiettivo di ricevere finanziamenti dall’UE.
Procedura per invitare i candidati a presentare proposte di progetti, con l’obiettivo di ricevere finanziamenti dall’UE.
(si apre in una nuova finestra) HORIZON-MSCA-2024-PF-01
Vedi tutti i progetti finanziati nell’ambito del bandoCoordinatore
Contributo finanziario netto dell’UE. La somma di denaro che il partecipante riceve, decurtata dal contributo dell’UE alla terza parte collegata. Tiene conto della distribuzione del contributo finanziario dell’UE tra i beneficiari diretti del progetto e altri tipi di partecipanti, come i partecipanti terzi.
3584 CS Utrecht
Paesi Bassi
I costi totali sostenuti dall’organizzazione per partecipare al progetto, compresi i costi diretti e indiretti. Questo importo è un sottoinsieme del bilancio complessivo del progetto.