Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Koopman-Operator-based Reinforcement Learning Control of Partial Differential Equations

Descrizione del progetto

Controllo affidabile e a basso consumo energetico con apprendimento per rinforzo di sistemi dinamici su larga scala

Migliorare l’analisi dei megadati, ad alta intensità energetica e di calcolo, è un obiettivo fondamentale in molti campi, dalla ricerca di base sulle origini dell’universo alla previsione dei cambiamenti climatici o al controllo di sistemi dinamici su larga scala in applicazioni ingegneristiche critiche per la sicurezza. L’apprendimento per rinforzo (RL, Reinforcement learning) è una tecnica promettente per ridurre i requisiti energetici dell’ultimo. Tuttavia, i metodi lineari o kernel non hanno una buona scalabilità, riducendo al minimo la loro utilità per le applicazioni pratiche. Tuttavia, i metodi lineari o kernel non hanno una buona scalabilità, il che ne riduce al minimo l’utilità per le applicazioni pratiche. Il progetto KoOpeRaDE, finanziato dal CER, si propone di sfruttare la teoria del controllo, la teoria dell’approssimazione e l’apprendimento automatico per ridurre la complessità e sostenere lo sviluppo di controllori RL innovativi per sistemi ingegneristici su larga scala con garanzie di prestazioni.

Obiettivo

An unprecedented energy crisis is looming over us. In order to transition to a greener and more energy-efficient society, existing technologies need to be improved and novel techniques such as nuclear fusion developed. This requires the stabilization of aerodynamics, heat transfer or combustion and fusion processes and thus, the development of efficient control strategies for large-scale dynamical systems. In recent years, reinforcement learning (RL) has emerged as a highly promising data-driven technique. Unfortunately, we cannot trust RL to handle our most important and complex systems, since the resulting controllers do not possess performance guarantees. Certifiable RL approaches such as linear or kernel methods tend to scale poorly, such that their applicability is limited to toy examples. In contrast to other application areas, this is a complete show-stopper for safety-critical engineering. Moreover, the training is extremely data hungry and costly, due to which RL itself contributes to the energy crisis.
The vision of this project is to develop new foundational methods to equip RL controllers for large-scale engineering systems with performance guarantees by exploiting system knowledge and systematically reducing the complexity. To achieve this, I will target three major breakthroughs, consisting of (A) global linearization of the dynamics via the Koopman operator framework, (B) the extension of certified Q-learning to continuous action spaces via control quantization, and (C) the detection and exploitation of symmetries in the system dynamics.
The project requires significant joint advancements in several challenging areas such as control, approximation theory and machine learning. In the case of success, the resulting controllers will provide a massive advancement of RL towards safety-critical engineering applications and significantly contribute to the challenge of meeting the future energy demands of our society.

Campo scientifico (EuroSciVoc)

Parole chiave

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC - HORIZON ERC Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2024-STG

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

TECHNISCHE UNIVERSITAT DORTMUND
Contributo netto dell'UE
€ 1 499 000,00
Indirizzo
AUGUST SCHMIDT STRASSE 4
44227 Dortmund
Germania
Regione
Nordrhein-Westfalen Arnsberg Dortmund, Kreisfreie Stadt
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
€ 1 499 000,00

Beneficiari (1)