Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

LeukoBIAS: Analysis, mitigation, and auditing of bias in foundation model-based leukemia detection from routine diagnostic blood smears

Descrizione del progetto

Analisi e mitigazione dei pregiudizi nascosti nella diagnostica della leucemia basata sull’IA

Nonostante le prestazioni notevoli, gli strumenti di IA utilizzati per la diagnosi della leucemia possono avere pregiudizi nascosti basati sull’età, sul sesso o su altri fattori del paziente. Questi possono compromettere l’accuratezza e l’equità. Inoltre, i rischi rimangono poco conosciuti, in particolare nei modelli di base potenti addestrati su vasti set di dati di immagini. Il progetto LeukoBIAS, finanziato dal CER, svilupperà metodi per individuare e ridurre i pregiudizi nella diagnostica del cancro ematico guidata dall’IA. Utilizzando i dati di oltre 6 000 pazienti reali, il progetto applicherà tecniche avanzate di apprendimento automatico per scoprire e correggere i comportamenti scorretti dei modelli. Oltre a migliorare la diagnostica della leucemia, LeukoBIAS mira anche a influenzare una più ampia regolamentazione e scalabilità dell’IA in altri settori medici, allineandosi alla spinta dell’UE per un’IA affidabile ed equa nell’assistenza sanitaria.

Obiettivo

Foundation models have revolutionized image processing in healthcare, offering robust performance across various tasks without task-specific training. However, potential biases in these models, especially when applied to critical medical diagnostics such as leukemia detection, remain largely unexplored. LeukoBIAS aims to address this crucial gap by developing a framework for analyzing and mitigating bias in foundation model-based leukemia detection algorithms.
Building on my previous work in AI-driven leukemia diagnostics, we will leverage a unique real-world dataset of over 6000 patients from my long-time industry partner, the Munich Leukemia Laboratory, to investigate biases related to sex, age, and other patient characteristics. Our approach combines advanced machine learning techniques, including multiple instance learning and attention mechanisms, with novel bias detection and mitigation strategies.
The project consists of three work packages: (i) bias analysis in foundation model-based leukemia diagnostics; (ii) development of bias mitigation techniques for model fine-tuning; and (iii) exploration of intellectual property and commercialization opportunities for bias auditing.
The innovative potential of the project extends beyond leukemia diagnostics. We will thus explore the scalability of our approach to other modalities and conduct a comprehensive market analysis to identify potential industry partners. LeukoBIAS will contribute to the scientific understanding of bias in medical AI and pave the way for more equitable and reliable AI-driven diagnostic tools. By addressing the requirements outlined in the EU Artificial Intelligence Act, LeukoBIAS is poised to have a significant impact on the development and deployment of trustworthy AI in healthcare. By providing a framework for bias analysis and mitigation, this project will contribute to more accurate diagnoses, improved patient outcomes, and accelerated innovation in AI-driven medicine.

Campo scientifico (EuroSciVoc)

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2024-POC

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

HELMHOLTZ ZENTRUM MUENCHEN DEUTSCHES FORSCHUNGSZENTRUM FUER GESUNDHEIT UND UMWELT GMBH
Contributo netto dell'UE
€ 150 000,00
Indirizzo
INGOLSTADTER LANDSTRASSE 1
85764 Neuherberg
Germania
Regione
Bayern Oberbayern München, Landkreis
Tipo di attività
Research Organisations
Collegamenti
Costo totale
Nessun dato

Beneficiari (1)