Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Reliable Data-Driven Decision Making in Cyber-Physical Systems

Projektbeschreibung

Verstärkungslernen auf ganz neuem Niveau

Verstärkungslernen bezeichnet die Schulung von Maschinenlernmodellen, eine Abfolge von Entscheidungen zu treffen, und birgt großes Potenzial für den Ausbau der Automatisierung. Ziel des EU-finanzierten Projekts RADDICS ist es, die wichtigsten Herausforderungen für den zuverlässigen Einsatz von Methoden des Verstärkungslernens bei anspruchsvollen Anwendungen zu bewältigen. Insbesondere wird die Verwendung von Wahrscheinlichkeitsmodellen wie Gauß-Verteilungen und tiefen Bayesschen Modellen untersucht, um eine sichere Erforschung zu ermöglichen. Zu diesem Zweck werden Konfidenzschätzungen aus diesen Modellen mit Techniken aus der robusten Kontrolltheorie und formalen Verifikation kombiniert. Die Forschung baut auf den jüngsten bahnbrechenden Ergebnissen zur sicheren Bayesschen Optimierung auf und wird an drei realen Anwendungen für cyber-physische Systeme demonstriert.

Ziel

This ERC project pushes the boundary of reliable data-driven decision making in cyber-physical systems (CPS), by bridging reinforcement learning (RL), nonparametric estimation and robust optimization. RL is a powerful abstraction of decision making under uncertainty and has witnessed dramatic recent breakthroughs. Most of these successes have been in games such as Go - well specified, closed environments that - given enough computing power - can be extensively simulated and explored. In real-world CPS, however, accurate simulations are rarely available, and exploration in these applications is a highly dangerous proposition.

We strive to rethink Reinforcement Learning from the perspective of reliability and robustness required by real-world applications. We build on our recent breakthrough result on safe Bayesian optimization (SAFE-OPT): The approach allows - for the first time - to identify provably near-optimal policies in episodic RL tasks, while guaranteeing under some regularity assumptions that with high probability no unsafe states are visited - even if the set of safe parameter values is a priori unknown.

While extremely promising, this result has several fundamental limitations, which we seek to overcome in this ERC project. To this end we will (1) go beyond low-dimensional Gaussian process models and towards much richer deep Bayesian models; (2) go beyond episodic tasks, by explicitly reasoning about the dynamics and employing ideas from robust control theory and (3) tackle bootstrapping of safe initial policies by bridging simulations and real-world experiments via multi-fidelity Bayesian optimization, and by pursuing safe active imitation learning.

Our research is motivated by three real-world CPS applications, which we pursue in interdisciplinary collaboration: Safe exploration of and with robotic platforms; tuning the energy efficiency of photovoltaic powerplants and safely optimizing the performance of a Free Electron Laser.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

ERC-COG - Consolidator Grant

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2018-COG

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

EIDGENOESSISCHE TECHNISCHE HOCHSCHULE ZUERICH
Netto-EU-Beitrag
€ 1 996 500,00
Adresse
Raemistrasse 101
8092 Zuerich
Schweiz
Region
Schweiz/Suisse/Svizzera Zürich Zürich
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 1 996 500,00

Begünstigte (1)