Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

EXplainable ALgorithmic Tools

Descrizione del progetto

Strumenti per algoritmi spiegabili

La necessità di algoritmi accessibili, applicabili universalmente e comprensibili pone delle sfide nelle applicazioni reali. Attualmente non esistono strumenti per spiegare i risultati degli algoritmi di ottimizzazione, creando una domanda di soluzioni spiegabili. Il progetto EXALT, finanziato dal CER, si propone di risolvere questo problema attuando i risultati del progetto TUgbOAT per migliorare gli algoritmi con spiegazioni leggibili dall’essere umano. Il progetto si prefigge di migliorare gli algoritmi offrendo soluzioni alternative, applicando i metodi del valore di Shapley, lavorando con input perturbati e generando alberi decisionali chiari. Inoltre, svilupperà una libreria software per algoritmi spiegabili, con particolare attenzione al problema dell’assegnazione dei compiti, in collaborazione con partner industriali.

Obiettivo

Deploying algorithmic solutions in real-world applications raises two challenges. First, we need easy-to-use and universal algorithms.
Second, we need to guarantee that algorithmic solutions can be understood by people using them. We address the first of these
challenges in TUgbOAT project, which aims to deliver unified algorithmic tools. Here, we propose to develop tools that would address
the second of these challenges.
In many use scenarios, algorithms propose a solution to a human operator. The main challenge in such cases is to convince him to use
the returned solution. Traditionally we think of algorithms in a black-box manner, i.e. as a tool to find a good solution. We do not
expect algorithms to give a human-understandable explanation of why this is the best solution, or what alternatives exist or what are
the bottlenecks. Nevertheless, we humans still tend to ask these questions even if we understand the algorithms that are used.
Currently, we lack good tools that could explain the results of optimization algorithms, e.g. for the assignment problem.
For practitioners, like ourselves, that work together with companies to deploy algorithmic solutions in real-world cases, the need to
provide explainable algorithms becomes immanent. Here we will test and implement results developed in TUgbOAT that can be used
to complement the algorithms with human explanations. In particular, we plan to:
- enrich algorithms to give meaningful alternative solutions,
- apply Shapley value methods to determine key solution elements,
- work with perturbed inputs to create robust and more concise solutions,
- generate concise decision trees that would explain steps taken by algorithms.
This project aims to deliver the base parts of a software library that would give explainable algorithms. We plan to concentrate on the
task assignment problem (i.e. matchings) where we already cooperate with companies.

Campo scientifico (EuroSciVoc)

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2022-POC2

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

MIM.AI SPOLKA Z OGRANICZONA ODPOWIEDZIALNOSCIA
Contributo netto dell'UE
€ 27 671,69
Indirizzo
SWIERADOWSKA 47
02-662 WARSZAWA
Polonia
PMI
Sì
Regione
Makroregion województwo mazowieckie Warszawski stołeczny Miasto Warszawa
Tipo di attività
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Collegamenti
Costo totale
Nessun dato

Beneficiari (2)