Description du projet
Analyser et atténuer les biais cachés dans les diagnostics de leucémie basés sur l’IA
Malgré leurs performances impressionnantes, les outils d’IA utilisés pour le diagnostic de la leucémie peuvent comporter des biais cachés fondés sur l’âge, le sexe ou d’autres facteurs liés au patient. Ceux-ci peuvent compromettre l’exactitude et l’équité. De plus, les risques restent mal compris, en particulier dans les modèles de fondation puissants formés sur de vastes ensembles de données d’images. Le projet LeukoBIAS, financé par le CER, développera des méthodes pour détecter et réduire les biais dans les diagnostics de cancer du sang pilotés par l’IA. En recourant aux données de plus de 6 000 patients en situation réelle, le projet appliquera des techniques avancées d’apprentissage automatique pour découvrir et corriger les comportements inéquitables des modèles. Au-delà de l’amélioration du diagnostic de la leucémie, LeukoBIAS vise également à influencer la réglementation et la modularité de l’IA dans d’autres domaines médicaux, en s’alignant sur les efforts de l’UE en faveur d’une IA digne de confiance et équitable dans les soins de santé.
Objectif
Foundation models have revolutionized image processing in healthcare, offering robust performance across various tasks without task-specific training. However, potential biases in these models, especially when applied to critical medical diagnostics such as leukemia detection, remain largely unexplored. LeukoBIAS aims to address this crucial gap by developing a framework for analyzing and mitigating bias in foundation model-based leukemia detection algorithms.
Building on my previous work in AI-driven leukemia diagnostics, we will leverage a unique real-world dataset of over 6000 patients from my long-time industry partner, the Munich Leukemia Laboratory, to investigate biases related to sex, age, and other patient characteristics. Our approach combines advanced machine learning techniques, including multiple instance learning and attention mechanisms, with novel bias detection and mitigation strategies.
The project consists of three work packages: (i) bias analysis in foundation model-based leukemia diagnostics; (ii) development of bias mitigation techniques for model fine-tuning; and (iii) exploration of intellectual property and commercialization opportunities for bias auditing.
The innovative potential of the project extends beyond leukemia diagnostics. We will thus explore the scalability of our approach to other modalities and conduct a comprehensive market analysis to identify potential industry partners. LeukoBIAS will contribute to the scientific understanding of bias in medical AI and pave the way for more equitable and reliable AI-driven diagnostic tools. By addressing the requirements outlined in the EU Artificial Intelligence Act, LeukoBIAS is poised to have a significant impact on the development and deployment of trustworthy AI in healthcare. By providing a framework for bias analysis and mitigation, this project will contribute to more accurate diagnoses, improved patient outcomes, and accelerated innovation in AI-driven medicine.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) ERC-2024-POC
Voir tous les projets financés au titre de cet appelInstitution d’accueil
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
85764 Neuherberg
Allemagne
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.