Opis projektu
Przejrzystość decyzji podejmowanych przez sztuczną inteligencję w opiece zdrowotnej
Rygorystyczne przepisy obowiązujące w Unii Europejskiej, takie jak RODO i nowy akt o sztucznej inteligencji, wymagają od modeli sztucznej inteligencji przejrzystych i zrozumiałych wyjaśnień dotyczących zautomatyzowanych decyzji - zwłaszcza w opiece zdrowotnej. Dostępne wyjaśnialne modele sztucznej inteligencji, takie jak LIME i SHAP, często przedstawiają niespójne wyjaśnienia, które odbiegają od procesów decyzyjnych wykorzystywanych przez specjalistów. Zespół finansowanego ze środków działania „Maria Skłodowska-Curie” projektu CONVEYTab ma na celu rozwój nowatorskiego podejścia do uczenia głębokiego nazwanego Tabular Concept Bottleneck Models (TabCBMs), które pozwala na uzyskanie wysokopoziomowych wyjaśnień opartych na koncepcjach. Zespół opracuje pierwszą w historii wizualną strukturę analityczną w celu zwiększenia interaktywności i możliwości zastosowania modelu w rzeczywistych kontekstach przez specjalistów medycznych. Projekt CONVEYTab umożliwi interpretację przewidywań sztucznej inteligencji, zapewniając ich zgodność z przepisami i szereg korzyści dla pacjentów z zaburzeniami ruchu i pasożytami jelitowymi.
Cel
The EU's GDPR and the new EU AI Act impose strict requirements on AI systems, especially in high-risk domains like healthcare. These regulations demand transparency and meaningful explanations for automated decisions to ensure adequate human oversight. State-of-the-art eXplainable AI (XAI) methods, such as LIME and SHAP, attempt to meet these demands with low-level explanations. However, these methods often yield inconsistent and decoupled results from high-level concepts that domain experts like physicians use in decision making. In contrast, Deep Learning (DL) models that generate concept-based explanations during training offer more robust and consistent outcomes. Despite their promise, concept-oriented DL models for tabular data remain underdeveloped, with the recent Tabular Concept Bottleneck Models (TabCBMs)—a family of interpretable, self-explaining DL models designed to learn and articulate high-level concept explanations for tabular data as an emerging yet unexplored solution.
CONVEYTab will advance TabCBMs by creating the first Visual Analytics (VA) framework that enhances interactivity and tests their real-world applicability. This framework will be realized through several VA systems tailored for medical professionals, enabling them to create, refine, explain, and compare DL model concepts in real time. This will ensure AI predictions are transparent, aligned with domain expertise, and compliant with EU regulations. CONVEYTab adopts a strong interdisciplinary approach, integrating expertise from life sciences, computer science, and cognitive science to meet the needs of the public sector and broader society. The research will be conducted at Utrecht University's Information and Computing Sciences Department under the supervision of Prof. Dr. Alexandru C. Telea, an influential scholar with extensive experience in DL and XAI. This project will help patients with motion disorders and intestinal parasites and position me as a leading VA for XAI researcher.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Projekt nie został jeszcze sklasyfikowany według klasyfikacji EuroSciVoc.
Wskaż dziedziny nauki, które twoim zdaniem są najbardziej istotne z punktu widzenia tego projektu i pomóż nam usprawnić naszą usługę klasyfikacji.
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Program(-y)
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
GŁÓWNY PROGRAM
Wyświetl wszystkie projekty finansowane w ramach tego programu
Temat(-y)
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
System finansowania
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania
Zaproszenie do składania wniosków
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2024-PF-01
Wyświetl wszystkie projekty finansowane w ramach tego zaproszeniaKoordynator
Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.
3584 CS Utrecht
Niderlandy
Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.