Projektbeschreibung
Ethische Überlegungen zum Einsatz von maschinellem Lernen im Gesundheitswesen
Ein Fünftel der EU-Bevölkerung hat irgendeine Form von Behinderung. Die EU hat sich dazu verpflichtet, die gesellschaftliche und wirtschaftliche Situation dieser Menschen zu verbessern. Auch der Zugang zu Kultur, ob als Verbraucherinnen und Verbrauer oder als Kulturschaffende, soll gewährleistet werden. In der klinischen Versorgung kommt zunehmend maschinelles Lernen zum Einsatz, um Diagnosen, Behandlungsmöglichkeiten und die Effektivität des Gesundheitssystems insgesamt zu verbessern. Auf maschinellem Lernen basierende Modelle beziehen sich jedoch auf historische Informationen und schließen Teile der Bevölkerung aus, die gesellschaftliche, rassen- oder geschlechtsbezogene Diskriminierung erleben. Dies beeinträchtigt die Fairness von Prognosemodellen und wirft ethische Bedenken auf. Hier setzt das EU-finanzierte Projekt FPH an. Es wird die ethischen Theorien im Zusammenhang mit der Verteilung von Ressourcen in der Gesundheitsversorgung darlegen und mit einem fairen maschinellen Lernen verknüpfen. Das Projekt wird beleuchten, wie übliche moralische Konzepte aus probabilistischer Sicht wahrgenommen werden können, und prüfen, ob bestehende Behauptungen fairer Modelle im Bereich der KI in Bezug auf unterschiedliche philosophische Wahrnehmungen der Probabilität, der Kausalität und der Kontrafaktizität haltbar sind. Dabei soll auch die Relevanz dieser philosophischen Wahrnehmungen aufgezeigt werden.
Ziel
In clinical care, machine learning is progressively used to enhance diagnosis, therapy choice, and effectiveness of the health system. Because machine-learning models learn from historically gathered information, populations that have suffered past human and structural biases (e.g. unequal access to education or resources) — called protected groups — are susceptible to damage from inaccurate projections or resource allocations, reinforcing health inequalities. For example, racial and gender differences exist in the way clinical data are produced and these can be transferred as biases in the models. Several techniques of algorithmic fairness have been suggested in the literature on machine learning to ameliorate the performance of machine learning with respect to its fairness. The debate in statistics and machine learning has however failed to provide a principled approach for choosing concepts of bias, prejudice, discrimination, and fairness in predictive models, with a clear link to ethical theory discussed within philosophy.
The specific scientific objectives of this research project are:
O1: ethical theory: mapping the ethical theories that are relevant for the allocation of resources in health care and draw connections with the literature in fair machine learning
O2: probabilistic ethics: understand how standard moral concepts such as responsibility, merit, need, talent, equality, and benefit can be understood in probabilistic terms
O3: epistemology of causality: understand if current claims made by counterfactual and causal models of fairness in AI are robust with respect to different philosophical understandings of probability, causality, and counterfactuals
O4: application: to show the relevance these philosophical ideas by applying them to a limited number of paradigmatic cases of the application of predictive algorithms in health care.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Programm/Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) H2020-MSCA-IF-2019
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
MSCA-IF -Koordinator
20133 Milano
Italien