Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski polski
CORDIS - Wyniki badań wspieranych przez UE
CORDIS
CORDIScovery podcast 50th episode CORDIScovery podcast 50th episode

Deep Learning Theory: Geometric Analysis of Capacity, Optimization, and Generalization for Improving Learning in Deep Neural Networks

CORDIS oferuje możliwość skorzystania z odnośników do publicznie dostępnych publikacji i rezultatów projektów realizowanych w ramach programów ramowych HORYZONT.

Odnośniki do rezultatów i publikacji związanych z poszczególnymi projektami 7PR, a także odnośniki do niektórych konkretnych kategorii wyników, takich jak zbiory danych i oprogramowanie, są dynamicznie pobierane z systemu OpenAIRE .

Publikacje

Book chapters (5)
Restricted Boltzmann Machines: Introduction and Review (odnośnik otworzy się w nowym oknie)

Autorzy: Guido Montúfar
Opublikowane w: Information Geometry and Its Applications - On the Occasion of Shun-ichi Amari's 80th Birthday, IGAIA IV Liblice, Czech Republic, June 2016, Numer 252, 2018, Strona(/y) 75-115, ISBN 978-3-319-97797-3
Wydawca: Springer International Publishing
DOI: 10.1007/978-3-319-97798-0_4

A Top-Down Approach to Attain Decentralized Multi-agents

Autorzy: Alex Tong Lin, Guido Montufar, Stanley Osher
Opublikowane w: Handbook of Reinforcement Learning and Control, Numer Studies in Systems, Decision and Control book series (SSDC, volume 325), 2021, Strona(/y) 419-431
Wydawca: Springer International Publishing

Stochastic Feedforward Neural Networks: Universal Approximation (odnośnik otworzy się w nowym oknie)

Autorzy: Merkh, Thomas; Montúfar, Guido
Opublikowane w: Mathematical Aspects of Deep Learning, 2022, Strona(/y) 267–313, ISBN 9781009025096
Wydawca: Cambridge University Press
DOI: 10.1017/9781009025096.007

Optimal Transport to a Variety (odnośnik otworzy się w nowym oknie)

Autorzy: Türkü Özlüm Çelik, Asgar Jamneshan, Guido Montúfar, Bernd Sturmfels, Lorenzo Venturello
Opublikowane w: Mathematical Aspects of Computer and Information Sciences - 8th International Conference, MACIS 2019, Gebze, Turkey, November 13–15, 2019, Revised Selected Papers, Numer 11989, 2020, Strona(/y) 364-381, ISBN 978-3-030-43119-8
Wydawca: Springer International Publishing
DOI: 10.1007/978-3-030-43120-4_29

Affine Natural Proximal Learning (odnośnik otworzy się w nowym oknie)

Autorzy: Wuchen Li, Alex Tong Lin, Guido Montúfar
Opublikowane w: Geometric Science of Information - 4th International Conference, GSI 2019, Toulouse, France, August 27–29, 2019, Proceedings, Numer 11712, 2019, Strona(/y) 705-714, ISBN 978-3-030-26979-1
Wydawca: Springer International Publishing
DOI: 10.1007/978-3-030-26980-7_73

Peer reviewed articles (14)
Ricci curvature for parametric statistics via optimal transport (odnośnik otworzy się w nowym oknie)

Autorzy: Wuchen Li, Guido Montúfar
Opublikowane w: Information Geometry, Numer 3/1, 2020, Strona(/y) 89-117, ISSN 2511-2481
Wydawca: Springer
DOI: 10.1007/s41884-020-00026-2

Implicit bias of gradient descent for mean squared error regression with wide neural networks

Autorzy: Jin, Hui; Montúfar, Guido
Opublikowane w: Journal of Machine Learning Research, Numer volume 24, number 137, 2023, Strona(/y) 1--97, ISSN 1533-7928
Wydawca: JMLR

Mixtures and products in two graphical models (odnośnik otworzy się w nowym oknie)

Autorzy: Anna Seigal, Guido Montufar
Opublikowane w: Journal of Algebraic Statistics, Numer 9/1, 2018, Strona(/y) 1-20, ISSN 1309-3452
Wydawca: Journal of Algebraic Statistics
DOI: 10.18409/jas.v9i1.90

Wasserstein distance to independence models (odnośnik otworzy się w nowym oknie)

Autorzy: Türkü Özlüm Çelik, Asgar Jamneshan, Guido Montúfar, Bernd Sturmfels, Lorenzo Venturello
Opublikowane w: Journal of Symbolic Computation, Numer 104, 2021, Strona(/y) 855-873, ISSN 0747-7171
Wydawca: Academic Press
DOI: 10.1016/j.jsc.2020.10.005

Factorized mutual information maximization (odnośnik otworzy się w nowym oknie)

Autorzy: Thomas Merkh, Guido Montúfar
Opublikowane w: Kybernetika, Numer Kybernetika 56 no. 5, 2020, Strona(/y) 948-978, ISSN 0023-5954
Wydawca: Akademie Ved Ceske Republiky
DOI: 10.14736/kyb-2020-5-0948

Geometry and convergence of natural policy gradient methods (odnośnik otworzy się w nowym oknie)

Autorzy: Johannes Müller; Guido Montúfar
Opublikowane w: Information Geometry, Numer Volume 7, 2023, Strona(/y) 485–523, ISSN 2511-249X
Wydawca: Springer
DOI: 10.1007/s41884-023-00106-z

Algebraic optimization of sequential decision problems (odnośnik otworzy się w nowym oknie)

Autorzy: Mareike Dressler; Marina Garrote-López; Guido Montúfar; Johannes Müller; Kemal Rose
Opublikowane w: Journal of Symbolic Computation, Numer Volume 121, 2023, Strona(/y) 102241, ISSN 0747-7171
Wydawca: Academic Press
DOI: 10.1016/j.jsc.2023.102241

Sharp bounds for the number of regions of maxout networks and vertices of Minkowski sums (odnośnik otworzy się w nowym oknie)

Autorzy: Guido Montúfar, Yue Ren, Leon Zhang
Opublikowane w: SIAM Journal on Applied Algebra and Geometry, Numer Volume 6, Number 4, 2022, Strona(/y) 618-649, ISSN 2470-6566
Wydawca: SIAM
DOI: 10.1137/21m1413699

Distributed Learning via Filtered Hyperinterpolation on Manifolds (odnośnik otworzy się w nowym oknie)

Autorzy: Guido Montúfar, Yu Guang Wang
Opublikowane w: Foundations of Computational Mathematics, 2021, ISSN 1615-3375
Wydawca: Springer Verlag
DOI: 10.1007/s10208-021-09529-5

Invariance properties of the natural gradient in overparametrised systems (odnośnik otworzy się w nowym oknie)

Autorzy: Jesse van Oostrum; Johannes Müller; Nihat Ay
Opublikowane w: Information Geometry, Numer Volume 6, 2022, Strona(/y) 51–67, ISSN 2511-249X
Wydawca: Springer
DOI: 10.1007/s41884-022-00067-9

Natural gradient via optimal transport (odnośnik otworzy się w nowym oknie)

Autorzy: Wuchen Li, Guido Montúfar
Opublikowane w: Information Geometry, Numer 1/2, 2018, Strona(/y) 181-214, ISSN 2511-2481
Wydawca: Springer Nature
DOI: 10.1007/s41884-018-0015-3

Geometry of Linear Convolutional Networks (odnośnik otworzy się w nowym oknie)

Autorzy: Kathlén Kohn, Thomas Merkh, Guido Montúfar, Matthew Trager
Opublikowane w: SIAM Journal on Applied Algebra and Geometry, Numer Volume 6, Number 3, 2022, Strona(/y) 368-406, ISSN 2470-6566
Wydawca: SIAM
DOI: 10.1137/21m1441183

Continuity and additivity properties of information decompositions (odnośnik otworzy się w nowym oknie)

Autorzy: Johannes Rauh; Pradeep Kr. Banerjee; Eckehard Olbrich; Guido Montúfar; Jürgen Jost
Opublikowane w: International Journal of Approximate Reasoning, Numer Volume 161, 2023, Strona(/y) 108979, ISSN 0888-613X
Wydawca: Elsevier BV
DOI: 10.1016/j.ijar.2023.108979

Decimated Framelet System on Graphs and Fast G-Framelet Transforms (odnośnik otworzy się w nowym oknie)

Autorzy: Zheng, X.; Zhou, B.; Wang, Y. G.; Xiaosheng ZHUANG
Opublikowane w: Journal of Machine Learning Research, Numer Volume 23, Number 18, 2022, Strona(/y) 1--68, ISSN 1533-7928
Wydawca: JMLR
DOI: 10.48550/arxiv.2012.06922

Other (8)
Training Wasserstein GANs without gradient penalties

Autorzy: Dohyun Kwon, Yeoneung Kim, Guido Montúfar, Insoon Yang
Opublikowane w: arxiv, 2021
Wydawca: arxiv

Enumeration of max-pooling responses with generalized permutohedra (odnośnik otworzy się w nowym oknie)

Autorzy: Escobar, Laura; Gallardo, Patricio; González-Anaya, Javier; González, José L.; Montúfar, Guido; Morales, Alejandro H.
Opublikowane w: arxiv, Numer 2022, 2022
Wydawca: arxiv
DOI: 10.48550/arxiv.2209.14978

On Connectivity of Solutions in Deep Learning: The Role of Over-parameterization and Feature Quality

Autorzy: Quynh Nguyen, Pierre Brechet, Marco Mondelli
Opublikowane w: arxiv, 2021
Wydawca: arxiv

Pull-back Geometry of Persistent Homology Encodings (odnośnik otworzy się w nowym oknie)

Autorzy: Liang, Shuang; Turkeš, Renata; Li, Jiayi; Otter, Nina; Montúfar, Guido
Opublikowane w: arxiv, 2023
Wydawca: arxiv
DOI: 10.48550/arxiv.2310.07073

How Well Do WGANs Estimate the Wasserstein Metric?

Autorzy: Mallasto, Anton; Montúfar, Guido; Gerolin, Augusto
Opublikowane w: arxiv, 2019
Wydawca: arxiv

Supermodular Rank: Set Function Decomposition and Optimization (odnośnik otworzy się w nowym oknie)

Autorzy: Sonthalia, Rishi; Seigal, Anna; Montufar, Guido
Opublikowane w: arxiv, Numer 2023, 2023
Wydawca: arxiv
DOI: 10.48550/arxiv.2305.14632

Mildly Overparameterized ReLU Networks Have a Favorable Loss Landscape (odnośnik otworzy się w nowym oknie)

Autorzy: Karhadkar, Kedar; Murray, Michael; Tseran, Hanna; Montúfar, Guido
Opublikowane w: arxiv, 2023
Wydawca: arxiv
DOI: 10.48550/arxiv.2305.19510

Function Space and Critical Points of Linear Convolutional Networks (odnośnik otworzy się w nowym oknie)

Autorzy: Kohn, Kathlén; Montúfar, Guido; Shahverdi, Vahid; Trager, Matthew
Opublikowane w: arxiv, Numer 2023, 2023
Wydawca: arxiv
DOI: 10.48550/arxiv.2304.05752

Conference proceedings (35)
FoSR: First-order spectral rewiring for addressing oversquashing in GNNs (odnośnik otworzy się w nowym oknie)

Autorzy: Karhadkar, Kedar; Banerjee, Pradeep Kr.; Montúfar, Guido
Opublikowane w: International Conference on Learning Representations, Numer 11, 2023
Wydawca: OpenReview
DOI: 10.48550/arxiv.2210.11790

Critical Points and Convergence Analysis of Generative Deep Linear Networks Trained with Bures-Wasserstein Loss

Autorzy: Pierre Bréchet, Katerina Papagiannouli, Jing An, Guido Montufar
Opublikowane w: Proceedings of the 40th International Conference on Machine Learning, Numer PMLR 202, 2023, Strona(/y) 3106-3147, ISSN 2640-3498
Wydawca: PMLR

Implicit Bias of MSE Gradient Optimization in Underparameterized Neural Networks (odnośnik otworzy się w nowym oknie)

Autorzy: Bowman, Benjamin; Montufar, Guido
Opublikowane w: International Conference on Learning Representations, Numer 2022, 2022
Wydawca: OpenReview
DOI: 10.48550/arxiv.2201.04738

Error Estimates for the Deep Ritz Method with Boundary Penalty (odnośnik otworzy się w nowym oknie)

Autorzy: Müller, Johannes; Zeinhofer, Marius
Opublikowane w: Proceedings of Mathematical and Scientific Machine Learning, Numer 2022, 2022, Strona(/y) 215-230, ISSN 2640-3498
Wydawca: PMLR
DOI: 10.48550/arxiv.2103.01007

How Framelets Enhance Graph Neural Networks

Autorzy: Xuebin Zheng, Bingxin Zhou, Junbin Gao, Yuguang Wang, Pietro Lió, Ming Li, Guido Montufar
Opublikowane w: Proceedings of the 38th International Conference on Machine Learning, Numer PMLR 139, 2021, Strona(/y) 12761-12771
Wydawca: PMLR

Task-agnostic constraining in average reward POMDPs

Autorzy: Montúfar, Guido ; Rauh, Johannes and Ay, Nihat
Opublikowane w: Task-Agnostic Reinforcement Learning Workshop at ICLR 2019, 2019
Wydawca: GitHub

On the expected complexity of maxout networks

Autorzy: Hanna Tseran, Guido Montúfar
Opublikowane w: Advances in Neural Information Processing Systems, Numer 34, 2021, Strona(/y) 28995--29008
Wydawca: Curran Associates, Inc.

On the effectiveness of persistent homology (odnośnik otworzy się w nowym oknie)

Autorzy: Turkeš, Renata; Montúfar, Guido; Otter, Nina
Opublikowane w: Advances in Neural Information Processing Systems, Numer 35, 2022, Strona(/y) 35432--35448, ISBN 9781713871088
Wydawca: Curran Associates, Inc.
DOI: 10.48550/arxiv.2206.10551

On the Proof of Global Convergence of Gradient Descent for Deep ReLU Networks with Linear Widths

Autorzy: Quynh Nguyen
Opublikowane w: Proceedings of the 38th International Conference on Machine Learning, Numer PMLR 139, 2021, Strona(/y) 8056-8062
Wydawca: PMLR

Optimization Theory for ReLU Neural Networks Trained with Normalization Layers

Autorzy: Dukler, Yonatan; Gu, Quanquan; Montúfar, Guido
Opublikowane w: Proceedings of the 37th International Conference on Machine Learning, Numer volume 119, 2020, Strona(/y) 2751-2760
Wydawca: PMLR

The Variational Deficiency Bottleneck (odnośnik otworzy się w nowym oknie)

Autorzy: Pradeep Kr. Banerjee, Guido Montufar
Opublikowane w: 2020 International Joint Conference on Neural Networks (IJCNN), 2020, Strona(/y) 1-8, ISBN 978-1-7281-6926-2
Wydawca: IEEE
DOI: 10.1109/ijcnn48605.2020.9206900

Haar Graph Pooling

Autorzy: Yu Guang Wang, Ming Li, Zheng Ma, Guido Montufar, Xiaosheng Zhuang, Yanan Fan
Opublikowane w: Proceedings of the 37th International Conference on Machine Learning, Numer PMLR 119, 2020, Strona(/y) 9952-9962
Wydawca: PMLR

Tight Bounds on the Smallest Eigenvalue of the Neural Tangent Kernel for Deep ReLU Networks

Autorzy: Quynh Nguyen, Marco Mondelli, Guido Montufar
Opublikowane w: Proceedings of the 38th International Conference on Machine Learning, Numer PMLR 139, 2021, Strona(/y) 8119-8129
Wydawca: PMLR

Solving infinite-horizon POMDPs with memoryless stochastic policies in state-action space (odnośnik otworzy się w nowym oknie)

Autorzy: Müller, Johannes; Montúfar, Guido
Opublikowane w: RLDM The Multi-disciplinary Conference on Reinforcement Learning and Decision Making, Numer 2022, 2022, Strona(/y) 435-439
Wydawca: RLDM
DOI: 10.48550/arxiv.2205.14098

Weisfeiler and Lehman Go Cellular: CW Networks

Autorzy: Cristian Bodnar, Fabrizio Frasca, Nina Otter, Yu Guang Wang, Pietro Liò, Guido Montúfar, Michael Bronstein
Opublikowane w: Advances in Neural Information Processing Systems, Numer 34, 2021, Strona(/y) 2625--2640
Wydawca: Curran Associates, Inc.

Can neural networks learn persistent homology features?

Autorzy: Guido Montúfar, Nina Otter, Yuguang Wang
Opublikowane w: Topological Data Analysis and Beyond Workshop at the 34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada, 2020
Wydawca: Openreview

Spectral Bias Outside the Training Set for Deep Networks in the Kernel Regime (odnośnik otworzy się w nowym oknie)

Autorzy: Bowman, Benjamin; Montufar, Guido
Opublikowane w: Advances in Neural Information Processing Systems, Numer 35, 2022, Strona(/y) 30362--30377, ISBN 9781713871088
Wydawca: Curran Associates, Inc.
DOI: 10.48550/arxiv.2206.02927

Weisfeiler and Lehman Go Topological: Message Passing Simplicial Networks

Autorzy: Cristian Bodnar, Fabrizio Frasca, Yuguang Wang, Nina Otter, Guido F Montufar, Pietro Lió, Michael Bronstein
Opublikowane w: Proceedings of the 38th International Conference on Machine Learning, Numer PMLR 139, 2021, Strona(/y) 1026-1037
Wydawca: PMLR

Computing the Unique Information (odnośnik otworzy się w nowym oknie)

Autorzy: Pradeep Kr. Banerjee, Johannes Rauh, Guido Montufar
Opublikowane w: 2018 IEEE International Symposium on Information Theory (ISIT), 2018, Strona(/y) 141-145, ISBN 978-1-5386-4781-3
Wydawca: IEEE
DOI: 10.1109/isit.2018.8437757

The Geometry of Memoryless Stochastic Policy Optimization in Infinite-Horizon POMDPs (odnośnik otworzy się w nowym oknie)

Autorzy: Müller, Johannes; Montúfar, Guido
Opublikowane w: International Conference on Learning Representations, Numer 2022, 2022
Wydawca: OpenReview
DOI: 10.48550/arxiv.2110.07409

Wasserstein of Wasserstein loss for learning generative models

Autorzy: Yonatan Dukler, Wuchen Li, Alex Tong Lin, Guido Montúfar
Opublikowane w: Proceedings of the 36th international conference on machine learning, Numer PMLR 97, 2019, Strona(/y) 1716-1725
Wydawca: JMLR, Inc. and Microtome Publishing

Wasserstein diffusion Tikhonov regularization

Autorzy: Lin, Alex Tong ; Dukler, Yonatan ; Li, Wuchen and Montúfar, Guido
Opublikowane w: NeurIPS 2019 Workshop on optimal transport and machine learning, 2019
Wydawca: Arxiv

A continuity result for optimal memoryless planning in POMDPs

Autorzy: Ay, Nihat ; Rauh, Johannes and Montúfar, Guido
Opublikowane w: RLDM, 2019
Wydawca: RLDM

Wasserstein proximal of GANs (odnośnik otworzy się w nowym oknie)

Autorzy: Alex Tong Lin, Wuchen Li, Stanley Osher, Guido Montúfar
Opublikowane w: International Conference on Geometric Science of Information GSI 2021, Numer Lecture Notes in Computer Science book series (LNCS, volume 12829), 2018, Strona(/y) 524-533, ISBN 978-3-030-80209-7
Wydawca: Springer International Publishing
DOI: 10.1007/978-3-030-80209-7_57

PAC-Bayes and Information Complexity

Autorzy: Pradeep Kr. Banerjee, Guido Montufar
Opublikowane w: ICLR 2021 Workshop Neural Compression: From Information Theory to Applications, 2021
Wydawca: OpenReview

When Are Solutions Connected in Deep Networks? (odnośnik otworzy się w nowym oknie)

Autorzy: Nguyen, Quynh; Brechet, Pierre; Mondelli, Marco
Opublikowane w: Advances in Neural Information Processing Systems, Numer 34, 2021, Strona(/y) 20956--20969, ISBN 9781713845393
Wydawca: Curran Associates, Inc.
DOI: 10.48550/arxiv.2102.09671

Weisfeiler and Lehman go Topological: Message Passing Simplicial Networks

Autorzy: Cristian Bodnar, Fabrizio Frasca, Yu Guang Wang, Nina Otter, Guido Montufar, Pietro Lio, Michael Bronstein
Opublikowane w: ICLR 2021 Workshop on Geometrical and Topological Representation Learning, 2021
Wydawca: OpenReview

Characterizing the Spectrum of the NTK via a Power Series Expansion (odnośnik otworzy się w nowym oknie)

Autorzy: Murray, Michael; Jin, Hui; Bowman, Benjamin; Montufar, Guido
Opublikowane w: International Conference on Learning Representations, Numer 11, 2023
Wydawca: OpenReview
DOI: 10.48550/arxiv.2211.07844

Achieving High Accuracy with PINNs via Energy Natural Gradients (odnośnik otworzy się w nowym oknie)

Autorzy: Müller, Johannes; Zeinhofer, Marius
Opublikowane w: Proceedings of the 40th International Conference on Machine Learning, Numer 40, 2023, Strona(/y) 25471--25485
Wydawca: PMLR
DOI: 10.48550/arxiv.2302.13163

Learning curves for Gaussian process regression with power-law priors and targets (odnośnik otworzy się w nowym oknie)

Autorzy: Jin, Hui; Banerjee, Pradeep Kr.; Mont��far, Guido
Opublikowane w: International Conference on Learning Representations, Numer 2022, 2022
Wydawca: OpenReview
DOI: 10.48550/arxiv.2110.12231

Oversquashing in GNNs through the lens of information contraction and graph expansion (odnośnik otworzy się w nowym oknie)

Autorzy: Pradeep Kr. Banerjee; Kedar Karhadkar; Yu Guang Wang; Uri Alon; Guido Montufar
Opublikowane w: 58th Annual Allerton Conference on Communication, Control, and Computing (Allerton), Numer 58, 2022, Strona(/y) 1-8
Wydawca: IEEE
DOI: 10.1109/allerton49937.2022.9929363

Decentralized Multi-Agents by Imitation of a Centralized Controller

Autorzy: Alex Lin, Mark Debord, Gary Hewer, Katia Estabridi, Guido Montufar, Stanley Osher
Opublikowane w: 2nd Annual Conference on Mathematical and Scientific Machine Learning, Numer PMLR vol 145, 2021
Wydawca: PMLR

Expected Gradients of Maxout Networks and Consequences to Parameter Initialization (odnośnik otworzy się w nowym oknie)

Autorzy: Tseran, Hanna; Montúfar, Guido
Opublikowane w: Proceedings of the 40th International Conference on Machine Learning, Numer PMLR 202, 2023, Strona(/y) 34491-34532
Wydawca: PMLR
DOI: 10.48550/arxiv.2301.06956

Kernelized Wasserstein Natural Gradient

Autorzy: Arbel, Michael; Gretton, Arthur; Li, Wuchen; Montufar, Guido
Opublikowane w: International Conference on Learning Representations, Numer 2020, 2020, Strona(/y) 31
Wydawca: ICLR

Information Complexity and Generalization Bounds (odnośnik otworzy się w nowym oknie)

Autorzy: Pradeep Kr. Banerjee, Guido Montufar
Opublikowane w: 2021 IEEE International Symposium on Information Theory (ISIT), 2021, Strona(/y) 676-681, ISBN 978-1-5386-8209-8
Wydawca: IEEE
DOI: 10.1109/isit45174.2021.9517960

Wyszukiwanie danych OpenAIRE...

Podczas wyszukiwania danych OpenAIRE wystąpił błąd

Brak wyników

Udostępnij tę stronę Udostępnij tę stronę w mediach społecznościowych

Pobierz Pobierz zawartość strony

Ostatnia aktualizacja: 6 Września 2024

Moja broszura

Permalink: https://cordis.europa.eu/project/id/757983/results/pl

European Union, 2025

Moja broszura 0 0