Opis projektu
Wiarygodna sztuczna inteligencja dzięki lepszej kwantyfikacji niepewności
W miarę jak systemy uczenia maszynowego są coraz częściej wykorzystywane do wspierania decyzji o wysokiej stawce, rośnie potrzeba zapewnienia, aby ich prognozy były wiarygodnie oceniane pod kątem niepewności, sprawiedliwości i rzeczywistej wartości decyzyjnej. Zespół projektu GUIDDE, realizowanego przy wsparciu z działań „Maria Skłodowska-Curie”, bada, jak zwiększyć wiarygodność prognoz opartych na uczeniu maszynowym, koncentrując się na kwantyfikacji ich niepewności. Chociaż najnowsze osiągnięcia umożliwiają uzyskanie skalibrowanych prawdopodobieństw i wiarygodnych zestawów prognoz, kluczowe pytanie wciąż pozostaje bez odpowiedzi: jak te gwarancje poprawiają jakość decyzji w praktyce. Badacze przeanalizują kompromisy między sprawiedliwością a precyzją oraz określą, w jakich sytuacjach kalibracja prowadzi do lepszych wyników, a następnie zweryfikują swoje ustalenia na przykładzie wykrywania planet pozasłonecznych. Opracują ponadto dostosowane do potrzeb metody, narzędzia typu open source oraz zastosowania w służbie zdrowia i przemyśle.
Cel
As machine learning (ML) is prevalent today to support decision-making, the European approach is to create an environment of trust for a fair AI through a unified regulatory framework, to ensure trust from both ‘‘people and companies’’. In line with this ambition, recent research efforts from the statistics and ML communities have been devoted to equipping ML models with provably valid tools for predictive uncertainty quantification (UQ), via methodological developments. We can now turn any point prediction into a guaranteed prediction set, or post-process estimated probabilities to get calibrated ones.
Yet, a crucial question remains: what does this offer to the downstream pipeline? This project targets this gap by: A) characterizing the trade-offs between the two UQ holy grails, namely fairness (via conditional validity) and tight evaluation of the underlying model’s error (via sharpness); thus helping any decision-maker to accurately interpret UQ performance, and B) qualifying under which conditions calibration allows decision-makers to take better decisions. Based on mathematical statistics tools, the theoretical outputs of A) and B) will be confronted with a real-world scientific application: exoplanet detection, where UQ is a critical step directly influencing detection capability. They will guide the design choices of a tailored UQ method, given the specificities of the application, in the form of open-access code.
The outgoing supervisor, a UQ expert, and the returning one, skilled in applying ML to real-world scientific applications, will help the PF grow into an independent researcher.
This interdisciplinary project will also benefit the industry through a concrete exploitation plan, targeting France's main electricity producer and supplier, and a public-private consortium working with 16 hospitals to improve the care of severe trauma patients. The communication plan will directly contribute to raising public awareness of the possibilities for robust ML.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Program(-y)
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
GŁÓWNY PROGRAM
Wyświetl wszystkie projekty finansowane w ramach tego programu
Temat(-y)
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
System finansowania
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships
Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania
Zaproszenie do składania wniosków
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2025-PF
Wyświetl wszystkie projekty finansowane w ramach tego zaproszeniaKoordynator
Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.
78153 Le Chesnay Cedex
Francja
Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.