Projektbeschreibung
Vertrauenswürdige KI mittels besserer Quantifizierung von Unsicherheiten
Da Systeme des maschinellen Lernens vermehrt zur Unterstützung von Entscheidungen mit hohen Risiken eingesetzt werden, wird es immer wichtiger, dass ihre Vorhersagen hinsichtlich Unsicherheit, Fairness und praktischem Entscheidungswert zuverlässig quantifiziert werden können. Mit Unterstützung durch das Marie-Sklodowska-Curie-Maßnahmenprogramm untersucht das GUIDDE-Projekt, wie Vorhersagen des maschinellen Lernens vertrauenswürdiger gestaltet werden können, indem es die Quantifizierung der Vorhersageunsicherheit in den Blickpunkt rückt. Zwar ermöglichen jüngste Fortschritte kalibrierte Wahrscheinlichkeiten und zuverlässige Vorhersagesätze, doch bleibt eine zentrale Frage offen: Inwiefern verbessern diese Garantien die Entscheidungsfindung in der Praxis? Das Projekt wird Kompromisse zwischen Fairness und Präzision untersuchen und prüfen, wann eine Kalibrierung zu besseren Ergebnissen führt. Hierzu werden die Ergebnisse bei der Entdeckung von Exoplaneten überprüft. Aus dem Projekt werden maßgeschneiderte Methoden, Open-Source-Tools und Anwendungen für das Gesundheitswesen und die Industrie hervorgehen.
Ziel
As machine learning (ML) is prevalent today to support decision-making, the European approach is to create an environment of trust for a fair AI through a unified regulatory framework, to ensure trust from both ‘‘people and companies’’. In line with this ambition, recent research efforts from the statistics and ML communities have been devoted to equipping ML models with provably valid tools for predictive uncertainty quantification (UQ), via methodological developments. We can now turn any point prediction into a guaranteed prediction set, or post-process estimated probabilities to get calibrated ones.
Yet, a crucial question remains: what does this offer to the downstream pipeline? This project targets this gap by: A) characterizing the trade-offs between the two UQ holy grails, namely fairness (via conditional validity) and tight evaluation of the underlying model’s error (via sharpness); thus helping any decision-maker to accurately interpret UQ performance, and B) qualifying under which conditions calibration allows decision-makers to take better decisions. Based on mathematical statistics tools, the theoretical outputs of A) and B) will be confronted with a real-world scientific application: exoplanet detection, where UQ is a critical step directly influencing detection capability. They will guide the design choices of a tailored UQ method, given the specificities of the application, in the form of open-access code.
The outgoing supervisor, a UQ expert, and the returning one, skilled in applying ML to real-world scientific applications, will help the PF grow into an independent researcher.
This interdisciplinary project will also benefit the industry through a concrete exploitation plan, targeting France's main electricity producer and supplier, and a public-private consortium working with 16 hospitals to improve the care of severe trauma patients. The communication plan will directly contribute to raising public awareness of the possibilities for robust ML.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
78153 Le Chesnay Cedex
Frankreich
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.