Descripción del proyecto
Análisis y mitigación del sesgo oculto en los diagnósticos de leucemia basados en inteligencia artificial
A pesar de su impresionante rendimiento, las herramientas de inteligencia artificial (IA) utilizadas en el diagnóstico de la leucemia pueden conllevar sesgos ocultos basados en la edad, el sexo u otros factores del paciente. Esto puede comprometer la precisión y la equidad. Es más, los riesgos siguen sin conocerse bien, sobre todo en los modelos fundacionales potentes entrenados con vastos conjuntos de datos de imágenes. El equipo del proyecto LeukoBIAS, financiado por el CEI, desarrollará métodos para detectar y reducir los sesgos en los diagnósticos de las neoplasias hemáticas basados en IA. Utilizando datos de más de seis mil pacientes reales, en el proyecto se aplicarán técnicas avanzadas de aprendizaje automático para descubrir y corregir comportamientos arbitrarios de los modelos. Además de mejorar el diagnóstico de la leucemia, en LeukoBIAS también se pretende influir en la regulación y la escalabilidad de la IA en otros ámbitos médicos, en consonancia con el impulso de la Unión Europea (UE) a una IA fiable y equitativa en la atención sanitaria.
Objetivo
Foundation models have revolutionized image processing in healthcare, offering robust performance across various tasks without task-specific training. However, potential biases in these models, especially when applied to critical medical diagnostics such as leukemia detection, remain largely unexplored. LeukoBIAS aims to address this crucial gap by developing a framework for analyzing and mitigating bias in foundation model-based leukemia detection algorithms.
Building on my previous work in AI-driven leukemia diagnostics, we will leverage a unique real-world dataset of over 6000 patients from my long-time industry partner, the Munich Leukemia Laboratory, to investigate biases related to sex, age, and other patient characteristics. Our approach combines advanced machine learning techniques, including multiple instance learning and attention mechanisms, with novel bias detection and mitigation strategies.
The project consists of three work packages: (i) bias analysis in foundation model-based leukemia diagnostics; (ii) development of bias mitigation techniques for model fine-tuning; and (iii) exploration of intellectual property and commercialization opportunities for bias auditing.
The innovative potential of the project extends beyond leukemia diagnostics. We will thus explore the scalability of our approach to other modalities and conduct a comprehensive market analysis to identify potential industry partners. LeukoBIAS will contribute to the scientific understanding of bias in medical AI and pave the way for more equitable and reliable AI-driven diagnostic tools. By addressing the requirements outlined in the EU Artificial Intelligence Act, LeukoBIAS is poised to have a significant impact on the development and deployment of trustworthy AI in healthcare. By providing a framework for bias analysis and mitigation, this project will contribute to more accurate diagnoses, improved patient outcomes, and accelerated innovation in AI-driven medicine.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
Para utilizar esta función, debe iniciar sesión o registrarse
Programa(s)
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMA PRINCIPAL
Ver todos los proyectos financiados en el marco de este programa
Tema(s)
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Régimen de financiación
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants
Ver todos los proyectos financiados en el marco de este régimen de financiación
Convocatoria de propuestas
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
(se abrirá en una nueva ventana) ERC-2024-POC
Ver todos los proyectos financiados en el marco de esta convocatoriaInstitución de acogida
Aportación financiera neta de la UE. Es la suma de dinero que recibe el participante, deducida la aportación de la UE a su tercero vinculado. Considera la distribución de la aportación financiera de la UE entre los beneficiarios directos del proyecto y otros tipos de participantes, como los terceros participantes.
85764 Neuherberg
Alemania
Los costes totales en que ha incurrido esta organización para participar en el proyecto, incluidos los costes directos e indirectos. Este importe es un subconjunto del presupuesto total del proyecto.