Description du projet
Rendre les décisions d’IA transparentes dans les soins de santé
Des réglementations européennes strictes, telles que le RGPD et la nouvelle réglementation sur l’IA, exigent que les systèmes d’IA, en particulier dans le domaine des soins de santé, fournissent des explications transparentes et pertinentes sur les décisions automatisées. Cependant, les méthodes existantes d’IA explicable (XAI), telles que LIME et SHAP, produisent souvent des explications incohérentes qui ne correspondent pas à la manière dont les experts prennent leurs décisions. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet CONVEYTab vise à faire progresser les modèles de goulots d’étranglement des concepts tabulaires (TabCBM), une nouvelle approche d’apprentissage profond qui génère des explications de haut niveau basées sur des concepts. Plus précisément, il développera le premier cadre d’analyse visuelle pour améliorer l’interactivité et l’applicabilité dans le monde réel pour les professionnels de la santé. CONVEYTab permettra de s’assurer que les prédictions de l’IA sont interprétables, conformes à la réglementation et bénéfiques pour les patients souffrant de troubles du mouvement et de parasites intestinaux.
Objectif
The EU's GDPR and the new EU AI Act impose strict requirements on AI systems, especially in high-risk domains like healthcare. These regulations demand transparency and meaningful explanations for automated decisions to ensure adequate human oversight. State-of-the-art eXplainable AI (XAI) methods, such as LIME and SHAP, attempt to meet these demands with low-level explanations. However, these methods often yield inconsistent and decoupled results from high-level concepts that domain experts like physicians use in decision making. In contrast, Deep Learning (DL) models that generate concept-based explanations during training offer more robust and consistent outcomes. Despite their promise, concept-oriented DL models for tabular data remain underdeveloped, with the recent Tabular Concept Bottleneck Models (TabCBMs)—a family of interpretable, self-explaining DL models designed to learn and articulate high-level concept explanations for tabular data as an emerging yet unexplored solution.
CONVEYTab will advance TabCBMs by creating the first Visual Analytics (VA) framework that enhances interactivity and tests their real-world applicability. This framework will be realized through several VA systems tailored for medical professionals, enabling them to create, refine, explain, and compare DL model concepts in real time. This will ensure AI predictions are transparent, aligned with domain expertise, and compliant with EU regulations. CONVEYTab adopts a strong interdisciplinary approach, integrating expertise from life sciences, computer science, and cognitive science to meet the needs of the public sector and broader society. The research will be conducted at Utrecht University's Information and Computing Sciences Department under the supervision of Prof. Dr. Alexandru C. Telea, an influential scholar with extensive experience in DL and XAI. This project will help patients with motion disorders and intestinal parasites and position me as a leading VA for XAI researcher.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
Ce projet n'a pas encore été classé par EuroSciVoc.
Proposez les domaines scientifiques qui vous semblent les plus pertinents et aidez-nous à améliorer notre service de classification.
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Mots‑clés
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2024-PF-01
Voir tous les projets financés au titre de cet appelCoordinateur
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
3584 CS Utrecht
Pays-Bas
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.