Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Optimization Algorithms for Split Learning

Opis projektu

Szybsza i bardziej ekologiczna rozproszona sztuczna inteligencja

Osiągnięcie wydajnej inteligencji w systemach sieciowych wymaga wyjścia poza tradycyjne metody rozproszone, aby skrócić czas realizacji i ślad węglowy intensywnego szkolenia modeli. Ograniczenia zasobów na brzegu sieci obecnie uniemożliwiają pełną skalowalność obliczeń rozproszonych. Próby zmiany tego stanu rzeczy podjął się zespół projektu OPALS, realizowanego przy wsparciu programu działań „Maria Skłodowska-Curie”. Będzie to postęp w podejściu do uczenia się podzielonego, w którym urządzenia przekazują część swoich obliczeń szkoleniowych na pobliskie serwery lub urządzeniach równorzędne. W ramach projektu opracowywane są algorytmy gwarantujące wydajność systemu, jego skalowalność i niższy ślad węglowy. Co więcej, zbadane zostanie również podejście zdecentralizowane, które utoruje drogę do wykorzystania różnorodnych zasobów obliczeniowych dla zrównoważonej sztucznej inteligencji.

Cel

With the rapid evolution of Artificial Intelligence, distributed machine learning methods such as Federated Learning (FL) are becoming ubiquitous in present-day technology. In FL, devices train neural network models while data stays local. A central entity then aggregates the model updates into a global model. Split learning (SL) has been recently proposed as a way to enable resource-constrained devices to participate in this learning framework. In a nutshell, SL splits the model into parts, and allows clients (devices) to offload the largest part as a processing task to a computationally powerful helper (edge server, cloud, or other devices). Essentially, SL is a paradigm shift offering a more flexible version of FL that alleviates the load at the devices by better utilizing other available resources in the network. However, this method comes with optimization challenges since networking decisions need to be made in order to orchestrate the SL operations and overcome any communication overhead. Despite the increasing attention towards SL, current algorithms focus on minimizing the training time and improving on energy efficiency, without however bearing any performance guarantees. In order to make SL efficient, OPALS will fill this crucial gap by providing algorithms with provable guarantees. In particular, OPALS focuses on 3 main research axes. First, it studies the well-established problem of minimizing the training time, in search of the first algorithm with guarantees. Second, it seeks ways of leveraging SL to reduce the carbon footprint of distributed learning. Third, it investigates how SL could be employed in a decentralized setting in view of the increasing importance of swarm intelligence. OPALS will employ mathematical modelling and cutting-edge optimization methods to achieve these goals. As a result, OPALS will pave the way to better resource utilization, and thus, efficient SL exploitable for technological innovation.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2024-PF-01

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

TELEFONICA INNOVACION DIGITAL SL
Wkład UE netto
€ 194 074,56
Adres
RONDA DE LA COMUNICACION S/N EDIFICO CENTRAL
28050 MADRID
Hiszpania
Region
Comunidad de Madrid Comunidad de Madrid Madrid
Rodzaj działalności
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Linki
Koszt całkowity
Brak danych