Projektbeschreibung
Roboter sollen ihre Handlungen erklären
Das Ziel des EU-finanzierten Projekts DEXIM ist es, einen vollständig transparenten, durchgängigen, trainierbaren und erklärbaren Ansatz, der auf tiefem Lernen basiert, für das visuelle Szenenverständnis zu entwickeln. Um dieses Ziel zu erreichen, werden wir die positiven Wechselwirkungen zwischen mehreren Datenmodalitäten, verbundene Unsicherheiten und zeitliche Kontinuitätsbeschränkungen sowie Speichermechanismen nutzen. Das Ergebnis dieses Vorschlags wird direkte Folgen für viele praktische Anwendungen haben, insbesondere in der mobilen Robotik und der Industrie für intelligente Fahrzeuge. Dieses Projekt wird daher das Vertrauen der Nutzer in einen sehr wettbewerbsintensiven Markt stärken.
Ziel
Explanations are valuable because they scaffold the kind of learning that supports adaptive behaviour, e.g. explanations enable users to adapt themselves to the situations that are about to arise. Explanations allow us to attain a stable environment and have the possibility to control it, e.g. explanations put us in a better position to control the future. Explanations in the medical domain can help patients identify and monitor the abnormal behaviour of their ailment. In the domain of self-driving vehicles they can warn the user of some critical state and collaborate with her to prevent a wrong decision. In the domain of satellite imagery, an explanatory monitoring system justifying the evidence of a future hurricane can save millions of lives. Hence, a learning machine that a user can trust and easily operate need to be fashioned with the ability of explanation. Moreover, according to GDPR, an automatic decision maker is required to be transparent by law.
As decision makers, humans can justify their decisions with natural language and point to the evidence in the visual world which led to their decisions. In contrast, artificially intelligent systems are frequently seen as opaque and are unable to explain their decisions. This is particularly concerning as ultimately such systems fail in building trust with human users.
In this proposal, the goal is to build a fully transparent end-to-end trainable and explainable deep learning approach for visual scene understanding. To achieve this goal, we will make use of the positive interactions between multiple data modalities, incorporate uncertainty and temporal continuity constraints, as well as memory mechanisms. The output of this proposal will have direct consequences for many practical applications, most notably in mobile robotics and intelligent vehicles industry. This project will therefore strengthen the user’s trust in a very competitive market.
Wissenschaftliches Gebiet
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
Schlüsselbegriffe
Programm/Programme
Thema/Themen
Finanzierungsplan
ERC-STG - Starting GrantGastgebende Einrichtung
85764 Neuherberg
Deutschland