Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Improving in-context generalization in reinforcement learning through asymmetric model-based methods using adequate representation and exploration techniques

Opis projektu

Lepsze zdolności uogólniania w uczeniu ze wzmocnieniem

Uczenie ze wzmocnieniem stanowi niezwykle obiecującą metodę rozwiązywania problemów związanych z podejmowaniem decyzji, ponieważ wymaga niewielkiej liczby założeń dotyczących rozwiązywanych problemów, co pozwala algorytmowi wyuczyć się niemal optymalnych zachowań nawet w nieznanych środowiskach. Empiryczne sukcesy algorytmów w praktyce często wymagały intensywnego i dostosowanego szkolenia, a ponadto docelowe algorytmy wykazywały ograniczoną zdolność adaptacyjną, w przeciwieństwie do znacznych możliwości uogólniania współczesnych dużych modeli generatywnych. Zespół finansowanego ze środków działania „Maria Skłodowska-Curie” projektu GenRL wykorzysta różne metody w celu poprawy zdolności uogólniania i wydajności. Zespół wykorzysta kluczowe osiągnięcia w dziedzinie uczenia opartego na reprezentacji, uczenia asymetrycznego oraz uczenia opartego na modelach, co pozwoli zwiększyć niezawodność uczenia ze wzmocnieniem w rzeczywistych zastosowaniach.

Cel

Reinforcement learning (RL) is an appealing framework for solving decision-making problems, notably because it makes few assumptions about the problem at hand. In its purest form, the promise of an RL algorithm is to learn an optimal behavior from interaction with an unknown environment. There has been a plethora of empirical successes in real-world applications ranging from games to robotics. However, most of these achievements have required a dedicated training, and the learned behaviors have demonstrated limited generalization abilities. Compared to the generalization capabilities recently obtained in generative modeling with large pretrained models, notably in language generation, it appears clearly that RL has much room for improvement when it comes to generalization. We define generalization as the ability to maintain performance by adapting to environment changes (perception, dynamics, or rewards) based on the observable context only. Interestingly, in-context generalization is known to be equivalent to the problem of optimally controlling a partially observable environment. Coincidentally, the RL field has been bursting with discoveries over the last few years, with notable progresses in several domains that are closely related to generalization and partial observability: representation learning, model-based RL, asymmetric RL, and exploration. These advances inspire enthusiasm about the future of RL, and in particular about the idea of developing RL algorithms able to learn behaviors that generalize well. It motivates this research project that will improve generalization by (i) developing new world model architectures for model-based RL with effective imagination, (ii) developing asymmetric representation learning objectives for better convergence and sample-efficiency, (iii) designing suitable exploration strategies relying on the aforementioned representations, and (iv) benchmarking generalization on a real-world application, tertiary voltage control.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2025-PF

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

UNIVERSITE DE LIEGE
Wkład UE netto
€ 238 388,40
Adres
PLACE DU 20 AOUT 7
4000 LIEGE
Belgia
Region
Région de Bruxelles-Capitale/Brussels Hoofdstedelijk Gewest Région de Bruxelles-Capitale/ Brussels Hoofdstedelijk Gewest Arr. de Bruxelles-Capitale/Arr. Brussel-Hoofdstad
Rodzaj działalności
Higher or Secondary Education Establishments
Linki
Koszt całkowity
Brak danych

Partnerzy (1)