Description du projet
Une IA digne de confiance grâce à une meilleure quantification de l’incertitude
À mesure que les systèmes d’apprentissage automatique sont de plus en plus utilisés pour appuyer des décisions à forts enjeux, il devient essentiel de s’assurer que l’incertitude, l’équité et la valeur décisionnelle dans des conditions réelles associées à leurs prédictions sont quantifiées de manière fiable. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet GUIDDE étudie les moyens de rendre les prédictions de l’apprentissage automatique plus fiables en se concentrant sur la quantification de l’incertitude prédictive. Si les avancées récentes permettent d’obtenir des probabilités calibrées et des ensembles de prédiction fiables, une question essentielle reste en suspens: comment ces garanties améliorent-elles les décisions dans la pratique? Le projet étudiera les compromis entre équité et précision, ainsi que les situations dans lesquelles le calibrage conduit à de meilleurs résultats, en testant ses conclusions dans le domaine de la détection des exoplanètes. Il fournira des méthodes adaptées, des outils à code source ouvert et des applications dans les soins de santé et l’industrie.
Objectif
As machine learning (ML) is prevalent today to support decision-making, the European approach is to create an environment of trust for a fair AI through a unified regulatory framework, to ensure trust from both ‘‘people and companies’’. In line with this ambition, recent research efforts from the statistics and ML communities have been devoted to equipping ML models with provably valid tools for predictive uncertainty quantification (UQ), via methodological developments. We can now turn any point prediction into a guaranteed prediction set, or post-process estimated probabilities to get calibrated ones.
Yet, a crucial question remains: what does this offer to the downstream pipeline? This project targets this gap by: A) characterizing the trade-offs between the two UQ holy grails, namely fairness (via conditional validity) and tight evaluation of the underlying model’s error (via sharpness); thus helping any decision-maker to accurately interpret UQ performance, and B) qualifying under which conditions calibration allows decision-makers to take better decisions. Based on mathematical statistics tools, the theoretical outputs of A) and B) will be confronted with a real-world scientific application: exoplanet detection, where UQ is a critical step directly influencing detection capability. They will guide the design choices of a tailored UQ method, given the specificities of the application, in the form of open-access code.
The outgoing supervisor, a UQ expert, and the returning one, skilled in applying ML to real-world scientific applications, will help the PF grow into an independent researcher.
This interdisciplinary project will also benefit the industry through a concrete exploitation plan, targeting France's main electricity producer and supplier, and a public-private consortium working with 16 hospitals to improve the care of severe trauma patients. The communication plan will directly contribute to raising public awareness of the possibilities for robust ML.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Mots‑clés
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2025-PF
Voir tous les projets financés au titre de cet appelCoordinateur
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
78153 Le Chesnay Cedex
France
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.