Skip to main content
European Commission logo
polski polski
CORDIS - Wyniki badań wspieranych przez UE
CORDIS
CORDIS Web 30th anniversary CORDIS Web 30th anniversary

Koopman-Operator-based Reinforcement Learning Control of Partial Differential Equations

Opis projektu

Skuteczna i niskoenergetyczna kontrola uczenia ze wzmocnieniem w wielkoskalowych systemach dynamicznych

Usprawnienie energochłonnej i wymagającej dużej mocy obliczeniowej analizy dużych zbiorów danych jest priorytetem w wielu dziedzinach, od badań podstawowych nad początkami wszechświata po przewidywanie zmian klimatycznych lub kontrolowanie wielkoskalowych systemów dynamicznych w zastosowaniach inżynieryjnych krytycznych dla bezpieczeństwa. Uczenie ze wzmocnieniem (RL) jest obiecującą techniką zmniejszania zapotrzebowania na energię w tej ostatniej grupie zastosowań. Jednak metody liniowe lub funkcji jądra nie skalują się dobrze, co zmniejsza ich użyteczność w zastosowaniach praktycznych. Są one również wymagające obliczeniowo, a tym samym energochłonne. Finansowany ze środków ERBN projekt KoOpeRaDE ma na celu wykorzystanie teorii sterowania, teorii aproksymacji i uczenia maszynowego do zmniejszenia złożoności i wsparcia rozwoju innowacyjnych kontrolerów RL dla wielkoskalowych systemów inżynieryjnych z gwarancją wydajności.

Cel

An unprecedented energy crisis is looming over us. In order to transition to a greener and more energy-efficient society, existing technologies need to be improved and novel techniques such as nuclear fusion developed. This requires the stabilization of aerodynamics, heat transfer or combustion and fusion processes and thus, the development of efficient control strategies for large-scale dynamical systems. In recent years, reinforcement learning (RL) has emerged as a highly promising data-driven technique. Unfortunately, we cannot trust RL to handle our most important and complex systems, since the resulting controllers do not possess performance guarantees. Certifiable RL approaches such as linear or kernel methods tend to scale poorly, such that their applicability is limited to toy examples. In contrast to other application areas, this is a complete show-stopper for safety-critical engineering. Moreover, the training is extremely data hungry and costly, due to which RL itself contributes to the energy crisis.
The vision of this project is to develop new foundational methods to equip RL controllers for large-scale engineering systems with performance guarantees by exploiting system knowledge and systematically reducing the complexity. To achieve this, I will target three major breakthroughs, consisting of (A) global linearization of the dynamics via the Koopman operator framework, (B) the extension of certified Q-learning to continuous action spaces via control quantization, and (C) the detection and exploitation of symmetries in the system dynamics.
The project requires significant joint advancements in several challenging areas such as control, approximation theory and machine learning. In the case of success, the resulting controllers will provide a massive advancement of RL towards safety-critical engineering applications and significantly contribute to the challenge of meeting the future energy demands of our society.

Dziedzina nauki (EuroSciVoc)

Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.

Aby użyć tej funkcji, musisz się zalogować lub zarejestrować

Instytucja przyjmująca

TECHNISCHE UNIVERSITAT DORTMUND
Wkład UE netto
€ 1 499 000,00
Adres
AUGUST SCHMIDT STRASSE 4
44227 Dortmund
Niemcy

Zobacz na mapie

Region
Nordrhein-Westfalen Arnsberg Dortmund, Kreisfreie Stadt
Rodzaj działalności
Higher or Secondary Education Establishments
Linki
Koszt całkowity
€ 1 499 000,00

Beneficjenci (1)