Opis projektu
Analizowanie i łagodzenie ukrytych uprzedzeń w diagnostyce białaczki opartej na sztucznej inteligencji
Pomimo imponujących osiągów, narzędzia oparte na sztucznej inteligencji stosowane w diagnostyce białaczki mogą wykazywać ukryte uprzedzenia oparte na wieku, płci lub innych czynnikach osobniczych. Może to zagrozić precyzji i neutralności. Co więcej, ryzyko pozostaje słabo zbadane, szczególnie w przypadku potężnych modeli fundamentalnych wyszkolonych na ogromnych zbiorach danych obrazowych. Zespół finansowanego przez ERBN projektu LeukoBIAS opracuje metody wykrywania i ograniczania uprzedzeń w diagnostyce nowotworów krwi opartej na sztucznej inteligencji. Korzystając z danych pochodzących od ponad 6 000 pacjentów, zespół zastosuje zaawansowane techniki uczenia maszynowego w celu wykrycia i skorygowania uprzedzeń modelu. Oprócz poprawy diagnostyki białaczki, projekt LeukoBIAS wpłynie również na szersze regulacje dotyczące sztucznej inteligencji i skalowalności w innych dziedzinach medycyny, zgodnie z dążeniem UE do godnej zaufania, sprawiedliwej sztucznej inteligencji w opiece zdrowotnej.
Cel
Foundation models have revolutionized image processing in healthcare, offering robust performance across various tasks without task-specific training. However, potential biases in these models, especially when applied to critical medical diagnostics such as leukemia detection, remain largely unexplored. LeukoBIAS aims to address this crucial gap by developing a framework for analyzing and mitigating bias in foundation model-based leukemia detection algorithms.
Building on my previous work in AI-driven leukemia diagnostics, we will leverage a unique real-world dataset of over 6000 patients from my long-time industry partner, the Munich Leukemia Laboratory, to investigate biases related to sex, age, and other patient characteristics. Our approach combines advanced machine learning techniques, including multiple instance learning and attention mechanisms, with novel bias detection and mitigation strategies.
The project consists of three work packages: (i) bias analysis in foundation model-based leukemia diagnostics; (ii) development of bias mitigation techniques for model fine-tuning; and (iii) exploration of intellectual property and commercialization opportunities for bias auditing.
The innovative potential of the project extends beyond leukemia diagnostics. We will thus explore the scalability of our approach to other modalities and conduct a comprehensive market analysis to identify potential industry partners. LeukoBIAS will contribute to the scientific understanding of bias in medical AI and pave the way for more equitable and reliable AI-driven diagnostic tools. By addressing the requirements outlined in the EU Artificial Intelligence Act, LeukoBIAS is poised to have a significant impact on the development and deployment of trustworthy AI in healthcare. By providing a framework for bias analysis and mitigation, this project will contribute to more accurate diagnoses, improved patient outcomes, and accelerated innovation in AI-driven medicine.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Program(-y)
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
-
HORIZON.1.1 - European Research Council (ERC)
GŁÓWNY PROGRAM
Wyświetl wszystkie projekty finansowane w ramach tego programu
Temat(-y)
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
System finansowania
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants
Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania
Zaproszenie do składania wniosków
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
(odnośnik otworzy się w nowym oknie) ERC-2024-POC
Wyświetl wszystkie projekty finansowane w ramach tego zaproszeniaInstytucja przyjmująca
Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.
85764 Neuherberg
Niemcy
Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.