Projektbeschreibung
Instrumente für erklärbare Algorithmen
Der Bedarf an zugänglichen, universell anwendbaren und verständlichen Algorithmen geht in der Praxis mit Herausforderungen einher. Gegenwärtig stehen keine Werkzeuge zur Verfügung, um die Ergebnisse von Optimierungsalgorithmen zu erklären, wodurch ein Bedarf an erklärbaren Lösungen entsteht. Das Team des ERC-finanzierten Projekts EXALT verfolgt das Ziel, die Ergebnisse des Projekts TUgbOAT umzusetzen, um Algorithmen mit menschenlesbaren Erklärungen zu optimieren. Es wird versucht, Algorithmen zu verbessern, wobei alternative Lösungen angeboten und Shapley-Wert-Methoden angewandt werden, mit gestörten Eingaben gearbeitet wird und eindeutige Entscheidungsbäume erstellt werden. Im Rahmen des Projekts wird außerdem eine Softwarebibliothek für erklärbare Algorithmen entwickelt, wobei der Schwerpunkt auf dem Problem der Aufgabenzuweisung bei der Zusammenarbeit mit Industriepartnern liegt.
Ziel
Deploying algorithmic solutions in real-world applications raises two challenges. First, we need easy-to-use and universal algorithms.
Second, we need to guarantee that algorithmic solutions can be understood by people using them. We address the first of these
challenges in TUgbOAT project, which aims to deliver unified algorithmic tools. Here, we propose to develop tools that would address
the second of these challenges.
In many use scenarios, algorithms propose a solution to a human operator. The main challenge in such cases is to convince him to use
the returned solution. Traditionally we think of algorithms in a black-box manner, i.e. as a tool to find a good solution. We do not
expect algorithms to give a human-understandable explanation of why this is the best solution, or what alternatives exist or what are
the bottlenecks. Nevertheless, we humans still tend to ask these questions even if we understand the algorithms that are used.
Currently, we lack good tools that could explain the results of optimization algorithms, e.g. for the assignment problem.
For practitioners, like ourselves, that work together with companies to deploy algorithmic solutions in real-world cases, the need to
provide explainable algorithms becomes immanent. Here we will test and implement results developed in TUgbOAT that can be used
to complement the algorithms with human explanations. In particular, we plan to:
- enrich algorithms to give meaningful alternative solutions,
- apply Shapley value methods to determine key solution elements,
- work with perturbed inputs to create robust and more concise solutions,
- generate concise decision trees that would explain steps taken by algorithms.
This project aims to deliver the base parts of a software library that would give explainable algorithms. We plan to concentrate on the
task assignment problem (i.e. matchings) where we already cooperate with companies.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2022-POC2
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsGastgebende Einrichtung
02-662 WARSZAWA
Polen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).