Description du projet
Découvrir le vrai fonctionnement de l’apprentissage profond
L’apprentissage profond (DL pour «deep learning») simule un réseau neuronal en utilisant plusieurs couches pour apprendre de manière autonome à partir de données. Malgré son efficacité dans de nombreuses applications, son fondement théorique reste inconnu. C’est là qu’intervient le projet UnderstandingDL, financé par le CER, qui adoptera une approche en trois volets. Tout d’abord, il développera de nouveaux modèles pouvant être appris par descente de gradient stochastique (SGD pour «stochastic gradient descent»), un algorithme d’optimisation utilisé pour entraîner des réseaux neuronaux. Cela peut produire de nouveaux algorithmes de DL qui sont compris théoriquement. Deuxièmement, le projet étudiera la complexité d’échantillonnage de différents types de réseaux neuronaux et de forces de connexion des nœuds. Cela devrait expliquer comment l’apprentissage profond peut avoir moins d’exemples que de paramètres, et parvenir tout de même à généraliser. Enfin, il étudiera la fonctionnalité des réseaux neuronaux, notamment les avantages en termes de profondeur et les effets de données délibérément corrompues (exemples dits contradictoires).
Objectif
While extremely successful, deep learning (DL) still lacks a solid theoretical foundation.
In the last 5 years the PI focused almost entirely on DL theory, yielding a strong publication record with 7 papers at NeurIPS (the leading ML conference), including 2 spotlights (top 3% of submitted papers) and one oral (top 1%), 2 papers at ICLR (the leading DL conference), and 1 paper at COLT (the leading ML theory conference). These results are amongst the first that break a 20 years hiatus in NN theory, thereby giving some hope for a solid deep learning theory. This includes 1) the first poly-time learnability result for non-trivial function class by SGD on NN, 2) the first such result with near optimal rate, 3) new methodology to bound the sample complexity of NN, that established the first sample complexity bound that is sublinear in the number of parameters, under norm constraints that are valid in practice, 4) an explanation to the phenomena of adversarial examples.
We plan to go far beyond these and other results, and to build a coherent theory for DL, addressing all three pillars of learning theory:
Optimization: We plan to investigate the success of SGD in finding a good model, arguably the greatest mystery of modern deep learning. Specifically our goal is to understand what models are learnable by SGD on neural networks. To this end, we plan to come up with a new class of models that can potentially lead to new deep learning algorithms, with a solid theory behind them.
Statistical Complexity: We plan to crack the second great mystery of modern deep learning, which is their ability to generalize with fewer examples than parameters. Our plan is to investigate the sample complexity of classes of neural networks that are defined by bounds on the weights’ magnitude.
Representation: We plan to investigate functions that can be realized by NN. This includes classical questions such as the benefits of depth, as well as more modern aspects such as adversarial examples.
Programme(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thème(s)
Appel à propositions
(s’ouvre dans une nouvelle fenêtre) ERC-2021-STG
Voir d’autres projets de cet appelRégime de financement
HORIZON-ERC - HORIZON ERC GrantsInstitution d’accueil
91904 Jerusalem
Israël