Descrizione del progetto
Rendere l’IA più intelligente, trasparente e affidabile
Nel mondo dell’IA, la comprensione del nesso di causalità è fondamentale, soprattutto in campi come la sanità e la finanza, dove le decisioni hanno un impatto sulle vite e sulle economie. Gli attuali modelli di IA spesso mancano di trasparenza, in quanto si basano su metodi opachi che rendono difficile per gli esperti verificare o contestare i risultati. Per colmare questa lacuna, il progetto CArLA, finanziato dal CER, si propone di rivoluzionare la scoperta causale, ossia il compito di scoprire le relazioni causali dai dati. Basandosi su metodologie solide e sui principi dell’IA spiegabile (XAI) del progetto ADIX del CER, la piattaforma di CArLA renderà la scoperta causale più trasparente, interattiva e contestabile. Il progetto svilupperà dimostratori in ambito sanitario e finanziario, in modo da consentire agli esperti di influenzare e verificare le intuizioni generate dall’IA, favorendo così un approccio all’IA più affidabile e allineato all’uomo per i processi decisionali ad alto rischio.
Obiettivo
Causal AI is widely perceived as crucial in the current AI landscape as it allows capturing causal effects amongst features in data, rather than simple correlations. Causal discovery is an important aspect of machine learning as it paves the way towards achieving Causal AI. It amounts to extracting causal graphs from data, encoding the structure of causal relations amongst features in data. There is a gap in the state-of-the-art in AI as concerns causal discovery, in that most approaches are black-boxes, hard to understand and explain, and unable to engage domain experts to integrate and possibly contest the learnt graphs when they are misaligned with human knowledge and values. CArLA aims at developing a platform for transparent, explainable, interactive and contestable causal discovery, based upon an existing principled methodology and prototype, as well as XAI techniques, developed within the ERC Advanced ADIX project. CArLA’s platform will support understanding the causal discovery process from data and experts while being able to influence it. Any developer or user of applications in high-stakes domains will benefit from using this uniquely trustworthy platform. CArLA aims to develop two demonstrators of the beneficial use of the platform in the high-stakes domains of healthcare and finance, to pave the way to commercialisation with a spinout.
Programma(i)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Argomento(i)
Invito a presentare proposte
(si apre in una nuova finestra) ERC-2024-POC
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsIstituzione ospitante
SW7 2AZ LONDON
Regno Unito