Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Reliable Data-Driven Decision Making in Cyber-Physical Systems

Descrizione del progetto

Portare l’apprendimento per rinforzo ad un livello completamente nuovo

L’apprendimento per rinforzo consiste nell’insegnare ai modelli di apprendimento automatico a prendere decisioni in sequenza, con un grande potenziale per contribuire ad aumentare l’automazione. Il progetto RADDICS, finanziato dall’UE, cerca di superare le sfide principali per una diffusione affidabile dei metodi di apprendimento per rinforzo in applicazioni ad alto rischio studiando, in particolare, l’uso di modelli probabilistici, come i processi gaussiani e i modelli bayesiani profondi, per consentire un’esplorazione sicura. A tal fine, combina le stime di confidenza di questi modelli con le tecniche della solida teoria del controllo e della verifica formale. La ricerca si basa sui risultati delle recenti scoperte sull’ottimizzazione bayesiana sicura, ed è dimostrata su tre applicazioni di sistemi ciberfisici del mondo reale.

Obiettivo

This ERC project pushes the boundary of reliable data-driven decision making in cyber-physical systems (CPS), by bridging reinforcement learning (RL), nonparametric estimation and robust optimization. RL is a powerful abstraction of decision making under uncertainty and has witnessed dramatic recent breakthroughs. Most of these successes have been in games such as Go - well specified, closed environments that - given enough computing power - can be extensively simulated and explored. In real-world CPS, however, accurate simulations are rarely available, and exploration in these applications is a highly dangerous proposition.

We strive to rethink Reinforcement Learning from the perspective of reliability and robustness required by real-world applications. We build on our recent breakthrough result on safe Bayesian optimization (SAFE-OPT): The approach allows - for the first time - to identify provably near-optimal policies in episodic RL tasks, while guaranteeing under some regularity assumptions that with high probability no unsafe states are visited - even if the set of safe parameter values is a priori unknown.

While extremely promising, this result has several fundamental limitations, which we seek to overcome in this ERC project. To this end we will (1) go beyond low-dimensional Gaussian process models and towards much richer deep Bayesian models; (2) go beyond episodic tasks, by explicitly reasoning about the dynamics and employing ideas from robust control theory and (3) tackle bootstrapping of safe initial policies by bridging simulations and real-world experiments via multi-fidelity Bayesian optimization, and by pursuing safe active imitation learning.

Our research is motivated by three real-world CPS applications, which we pursue in interdisciplinary collaboration: Safe exploration of and with robotic platforms; tuning the energy efficiency of photovoltaic powerplants and safely optimizing the performance of a Free Electron Laser.

Campo scientifico (EuroSciVoc)

Parole chiave

Programma(i)

Argomento(i)

Meccanismo di finanziamento

ERC-COG - Consolidator Grant

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2018-COG

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

EIDGENOESSISCHE TECHNISCHE HOCHSCHULE ZUERICH
Contributo netto dell'UE
€ 1 996 500,00
Indirizzo
Raemistrasse 101
8092 Zuerich
Svizzera
Regione
Schweiz/Suisse/Svizzera Zürich Zürich
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
€ 1 996 500,00

Beneficiari (1)