Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Optimization Algorithms for Split Learning

Description du projet

Rendre l’IA distribuée plus rapide et plus écologique

Pour obtenir une intelligence efficace dans les systèmes en réseau, il faut aller au-delà des méthodes distribuées traditionnelles afin de réduire le temps d’exécution et l’empreinte carbone de la formation intensive aux modèles. Les contraintes de ressources à la périphérie du réseau empêchent actuellement l’extensibilité totale de l’informatique distribuée. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet OPALS entend y remédier. Il fera progresser l’approche de l’apprentissage fractionné, dans laquelle les appareils déchargent une partie de leurs calculs d’apprentissage sur des serveurs ou des pairs proches. Le projet développe des algorithmes pour garantir l’efficacité et l’évolutivité du système, ainsi qu’une empreinte carbone réduite. En outre, il étudiera également une approche décentralisée, ouvrant la voie à l’utilisation de différentes ressources informatiques pour une intelligence artificielle durable.

Objectif

With the rapid evolution of Artificial Intelligence, distributed machine learning methods such as Federated Learning (FL) are becoming ubiquitous in present-day technology. In FL, devices train neural network models while data stays local. A central entity then aggregates the model updates into a global model. Split learning (SL) has been recently proposed as a way to enable resource-constrained devices to participate in this learning framework. In a nutshell, SL splits the model into parts, and allows clients (devices) to offload the largest part as a processing task to a computationally powerful helper (edge server, cloud, or other devices). Essentially, SL is a paradigm shift offering a more flexible version of FL that alleviates the load at the devices by better utilizing other available resources in the network. However, this method comes with optimization challenges since networking decisions need to be made in order to orchestrate the SL operations and overcome any communication overhead. Despite the increasing attention towards SL, current algorithms focus on minimizing the training time and improving on energy efficiency, without however bearing any performance guarantees. In order to make SL efficient, OPALS will fill this crucial gap by providing algorithms with provable guarantees. In particular, OPALS focuses on 3 main research axes. First, it studies the well-established problem of minimizing the training time, in search of the first algorithm with guarantees. Second, it seeks ways of leveraging SL to reduce the carbon footprint of distributed learning. Third, it investigates how SL could be employed in a decentralized setting in view of the increasing importance of swarm intelligence. OPALS will employ mathematical modelling and cutting-edge optimization methods to achieve these goals. As a result, OPALS will pave the way to better resource utilization, and thus, efficient SL exploitable for technological innovation.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2024-PF-01

Voir tous les projets financés au titre de cet appel

Coordinateur

TELEFONICA INNOVACION DIGITAL SL
Contribution nette de l'UE
€ 194 074,56
Adresse
RONDA DE LA COMUNICACION S/N EDIFICO CENTRAL
28050 MADRID
Espagne
Région
Comunidad de Madrid Comunidad de Madrid Madrid
Type d’activité
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Liens
Coût total
Aucune donnée