Large-Scale Learning with Deep Kernel Machines

Informations projet

SOLARIS

N° de convention de subvention: 714381

DOI

10.3030/714381

Projet clôturé

Date de signature de la CE 28 Novembre 2016

Date de début 1 Mars 2017

Date de fin 28 Février 2022

Financé au titre de

• EXCELLENT SCIENCE - European Research Council (ERC)

Coût total

€ 1 498 465,00

Contribution de l’UE

€ 1 498 465,00

Coordonné par

INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET AUTOMATIQUE
France

CORDIS fournit des liens vers les livrables publics et les publications des projets HORIZON.

Les liens vers les livrables et les publications des projets du 7e PC, ainsi que les liens vers certains types de résultats spécifiques tels que les jeux de données et les logiciels, sont récupérés dynamiquement sur OpenAIRE .

Publications

Conference proceedings (29)

The spectral bias of polynomial neural networks

Auteurs: M. Choraria, L. T. Dadi, G. Chrysos, J. Mairal and V. Cevher
Publié dans: International Conference on Learning Representations (ICLR), 2022
Éditeur: ICLR

Self-Supervised Models are Continual Learners

Auteurs: E. Fini, V. G. Turrisi da Costa, X. Alameda-Pineda, E. Ricci, K. Alahari and J. Mairal
Publié dans: IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2022
Éditeur: IEEE

Fully Trainable and Interpretable Non-local Sparse Models for Image Restoration

Auteurs: Bruno Lecouat, Jean Ponce, Julien Mairal
Publié dans: Computer Vision – ECCV 2020 - 16th European Conference, Glasgow, UK, August 23–28, 2020, Proceedings, Part XXII, Numéro 12367, 2020, Page(s) 238-254, ISBN 978-3-030-58541-9
Éditeur: Springer International Publishing
DOI: 10.1007/978-3-030-58542-6_15

A Generic Acceleration Framework for Stochastic Composite Optimization

Auteurs: Kulunchakov, Andrei; Mairal, Julien
Publié dans: NeurIPS 2019 - Thirty-third Conference Neural Information Processing Systems, Dec 2019, Vancouver, Canada. pp.12556-12567, 2019
Éditeur: Neurips

A Trainable Spectral-Spatial Sparse Coding Model for Hyperspectral Image Restoration

Auteurs: Theo Bodrito; Jocelyn Chanussot; Julien Mairal
Publié dans: Adv. Neural Information Processing Systems (NeurIPS), 2021
Éditeur: NeurIPS

Recurrent Kernel Networks

Auteurs: Chen, Dexiong; Jacob, Laurent; Mairal, Julien
Publié dans: NeurIPS 2019 - Neural Information Processing Systems, 2019
Éditeur: NeurIPS

Designing and Learning Trainable Priors with Non-Cooperative Games

Auteurs: Lecouat, Bruno; Ponce, Jean; Mairal, Julien
Publié dans: Adv. Neural Information Processing Systems (NeurIPS), 2020
Éditeur: NeurIPS

An Optimal Transport Kernel for Feature Aggregation and its Relationship to Attention

Auteurs: Mialon, Grégoire; Chen, Dexiong; D'Aspremont, Alexandre; Mairal, Julien
Publié dans: ICLR 2021 - International Conference on Learning Representations, 2021
Éditeur: ICLR

Screening Data Points in Empirical Risk Minimization via Ellipsoidal Regions and Safe Loss Functions

Auteurs: Mialon, Grégoire; D'Aspremont, Alexandre; Mairal, Julien
Publié dans: AISTATS 2020 - 23rd International Conference on Artificial Intelligence and Statistics, 2020
Éditeur: PMLR

Lucas-Kanade Reloaded: End-to-End Super-Resolution from Raw Image Bursts

Auteurs: Lecouat, Bruno; Ponce, Jean; Mairal, Julien
Publié dans: International Conference on Computer Vision (ICCV), 2021
Éditeur: IEEE
DOI: 10.1109/iccv48922.2021.00237

On the Inductive Bias of Neural Tangent Kernels

Auteurs: Bietti, Alberto; Mairal, Julien
Publié dans: NeurIPS 2019 - Thirty-third Conference on Neural Information Processing Systems, Dec 2019, Vancouver, Canada. pp.12873-12884, 2019
Éditeur: Neurips

Catalyst for Gradient-based Nonconvex Optimization

Auteurs: Paquette , Courtney; Lin , Hongzhou; Drusvyatskiy , Dmitriy; Mairal , Julien; Harchaoui , Zaid
Publié dans: AISTATS 2018 - 21st International Conference on Artificial Intelligence and Statistics, Apr 2018, Lanzarote, Spain. pp.1-10, 2018
Éditeur: PMLR

Learning Neural Representations of Human Cognition across Many fMRI Studies

Auteurs: Mensch, Arthur; Mairal, Julien; Bzdok, Danilo; Thirion, Bertrand; Varoquaux, Gaël
Publié dans: NIPS 2017 - Advances in Neural Information Processing Systems, 2017
Éditeur: NIPS proceedings

Invariance and Stability of Deep Convolutional Representations

Auteurs: Bietti , Alberto; Mairal , Julien
Publié dans: NIPS 2017 - 31st Conference on Advances in Neural Information Processing Systems, 2017
Éditeur: NIPS Proceedings

BlitzNet: A Real-Time Deep Network for Scene Understanding

Auteurs: Nikita Dvornik, Konstantin Shmelkok, Julien Mairal, Cordelia Schmid
Publié dans: ICCV 2017 - International Conference on Computer Vision, 2017
Éditeur: IEEE

Modeling Visual Context is Key to Augmenting Object Detection Datasets

Auteurs: Dvornik , Nikita; Mairal , Julien; Schmid , Cordelia
Publié dans: ECCV 2018 - European Conference on Computer Vision, 2018
Éditeur: Springer

Stochastic Optimization with Variance Reduction for Infinite Datasets with Finite-Sum Structure

Auteurs: Bietti , Alberto; Mairal , Julien
Publié dans: NIPS 2017 - Advances in Neural Information Processing Systems, 2017
Éditeur: NIPS proceedings

Unsupervised Learning of Artistic Styles with Archetypal Style Analysis

Auteurs: Wynen, Daan; Schmid, Cordelia; Mairal, Julien
Publié dans: NIPS 2018 - Advances in Neural Information Processing Systems, 2018
Éditeur: NIPS proceedings

A Kernel Perspective for Regularizing Deep Neural Networks

Auteurs: Bietti, Alberto; Mialon, Grégoire; Chen, Dexiong; Mairal, Julien
Publié dans: International Conference on Machine Learning (ICML), Numéro 97, 2019, ISSN 2640-3498
Éditeur: PMLR

Diversity with Cooperation: Ensemble Methods for Few-Shot Classification

Auteurs: Dvornik, Nikita; Schmid, Cordelia; Mairal, Julien
Publié dans: International Conference on Computer Vision (ICCV), 2019
Éditeur: IEEE

Estimate Sequences for Variance-Reduced Stochastic Composite Optimization

Auteurs: Kulunchakov, Andrei; Mairal, Julien
Publié dans: International Conference on Machine Learning (ICML), Numéro 97, 2019
Éditeur: PMLR

Unsupervised Pre-Training of Image Features on Non-Curated Data

Auteurs: Caron, Mathilde; Bojanowski, Piotr; Mairal, Julien; Joulin, Armand
Publié dans: International Conference on Computer Vision (ICCV), 2019
Éditeur: IEEE

Unsupervised Learning of Visual Features by Contrasting Cluster Assignments

Auteurs: Caron, Mathilde; Misra, Ishan; Mairal, Julien; Goyal, Priya; Bojanowski, Piotr; Joulin, Armand
Publié dans: NeurIPS 2020 - Neural Information Processing Systems, 2020
Éditeur: PMLR

Convolutional Kernel Networks for Graph-Structured Data

Auteurs: Chen, Dexiong; Jacob, Laurent; Mairal, Julien
Publié dans: ICML 2020 - 37th International Conference on Machine Learning, 2020
Éditeur: PMLR

Beyond Tikhonov: Faster Learning with Self-Concordant Losses via Iterative Regularization

Auteurs: Beugnot, Gaspard; Mairal, Julien; Rudi, Alessandro
Publié dans: Advances in Neural Information Processing Systems (NeurIPS), 2021
Éditeur: NeurIPS

Efficient Kernel UCB for Contextual Bandits

Auteurs: H. Zenati, A. Bietti, E. Diemert, J. Mairal, M. Martin and P. Gaillard
Publié dans: International Conference on Artificial Intelligence and Statistics (AISTATS), 2022
Éditeur: AISTATS

Selecting Relevant Features from a Multi-domain Representation for Few-Shot Classification

Auteurs: Nikita Dvornik, Cordelia Schmid, Julien Mairal
Publié dans: Computer Vision – ECCV 2020 - 16th European Conference, Glasgow, UK, August 23–28, 2020, Proceedings, Part X, Numéro 12355, 2020, Page(s) 769-786, ISBN 978-3-030-58606-5
Éditeur: Springer International Publishing
DOI: 10.1007/978-3-030-58607-2_45

Emerging Properties in Self-Supervised Vision Transformers

Auteurs: Caron, Mathilde; Touvron, Hugo; Misra, Ishan; Jegou, Hervé; Mairal, Julien; Bojanowski, Piotr; Joulin, Armand
Publié dans: International Conference on Computer Vision (ICCV), 2021
Éditeur: IEEE
DOI: 10.1109/iccv48922.2021.00951

Amortized Implicit Differentiation for Stochastic Bilevel Optimization

Auteurs: M. Arbel and J. Mairal
Publié dans: International Conference on Learning Representations (ICLR), 2022
Éditeur: ICLR

Peer reviewed articles (9)

Estimate Sequences for Stochastic Composite Optimization: Variance Reduction, Acceleration, and Robustness to Noise

Auteurs: Kulunchakov, Andrei; Mairal, Julien
Publié dans: Journal of Machine Learning Research (JMLR), Numéro 21, 2020, ISSN 1532-4435
Éditeur: MIT Press

Extracting representations of cognition across neuroimaging studies improves brain decoding

Auteurs: Arthur Mensch, Julien Mairal, Bertrand Thirion, Gaël Varoquaux
Publié dans: PLOS Computational Biology, Numéro 17/5, 2021, Page(s) e1008795, ISSN 1553-734X
Éditeur: Public Library of Science
DOI: 10.1371/journal.pcbi.1008795

Stochastic Subsampling for Factorizing Huge Matrices

Auteurs: Arthur Mensch, Julien Mairal, Bertrand Thirion, Gael Varoquaux
Publié dans: IEEE Transactions on Signal Processing, Numéro 66/1, 2018, Page(s) 113-128, ISSN 1053-587X
Éditeur: Institute of Electrical and Electronics Engineers
DOI: 10.1109/TSP.2017.2752697

Loter: A Software Package to Infer Local Ancestry for a Wide Range of Species

Auteurs: Thomas Dias-Alves, Julien Mairal, Michael G B Blum
Publié dans: Molecular Biology and Evolution, Numéro 35/9, 2018, Page(s) 2318-2326, ISSN 0737-4038
Éditeur: Oxford University Press
DOI: 10.1093/molbev/msy126

Catalyst Acceleration for First-order Convex Optimization: from Theory to Practice

Auteurs: Lin , Hongzhou; Mairal , Julien; Harchaoui , Zaid
Publié dans: Journal of Machine Learning Research, Numéro 18, 2018, ISSN 1532-4435
Éditeur: MIT Press

Group Invariance, Stability to Deformations, and Complexity of Deep Convolutional Representations

Auteurs: Bietti, Alberto; Mairal, Julien
Publié dans: Journal of Machine Learning Research, Numéro 20, 2019, ISSN 1532-4435
Éditeur: MIT Press

An Inexact Variable Metric Proximal Point Algorithm for Generic Quasi-Newton Acceleration

Auteurs: Hongzhou Lin, Julien Mairal, Zaid Harchaoui
Publié dans: SIAM Journal on Optimization, Numéro 29/2, 2019, Page(s) 1408-1443, ISSN 1052-6234
Éditeur: Society for Industrial and Applied Mathematics
DOI: 10.1137/17M1125157

Biological sequence modeling with convolutional kernel networks

Auteurs: Dexiong Chen, Laurent Jacob, Julien Mairal
Publié dans: Bioinformatics, 2019, ISSN 1367-4803
Éditeur: Oxford University Press
DOI: 10.1093/bioinformatics/btz094

On the Importance of Visual Context for Data Augmentation in Scene Understanding

Auteurs: Nikita Dvornik, Julien Mairal, Cordelia Schmid
Publié dans: IEEE Transactions on Pattern Analysis and Machine Intelligence, Numéro 43/6, 2021, Page(s) 2014-2028, ISSN 0162-8828
Éditeur: Institute of Electrical and Electronics Engineers
DOI: 10.1109/tpami.2019.2961896