Algorithmic Bias Control in Deep learning

Informations projet

A-B-C-Deep

N° de convention de subvention: 101039436

DOI 10.3030/101039436

Date de signature de la CE 17 Mai 2022

Date de début 1 Juin 2022

Date de fin 31 Mai 2027

Financé au titre de

• European Research Council (ERC)

Coût total € 1 500 000,00

Contribution de l’UE € 1 500 000,00

Coordonné par

TECHNION - ISRAEL INSTITUTE OF TECHNOLOGY
Israel

Publications

Conference proceedings (13)

How do Minimum-Norm Shallow Denoisers Look in Function Space?

Auteurs: Zeno, Chen; Ongie, Greg; Blumenfeld, Yaniv; Weinberger, Nir; Soudry, Daniel
Publié dans: NeurIPS, 2023
Éditeur: NeurIPS
DOI: 10.48550/arxiv.2311.06748

The Role of Codeword-to-Class Assignments in Error-Correcting Codes: An Empirical Study

Auteurs: Evron, Itay; Onn, Ophir; Orzech, Tamar Weiss; Azeroual, Hai; Soudry, Daniel
Publié dans: AISTAT, 2023
Éditeur: AISTAT
DOI: 10.48550/arxiv.2302.05334

DropCompute: simple and more robust distributed synchronous training via compute variance reduction

Auteurs: Giladi, Niv; Gottlieb, Shahar; Shkolnik, Moran; Karnieli, Asaf; Banner, Ron; Hoffer, Elad; Levy, Kfir Yehuda; Soudry, Daniel
Publié dans: NeurIPS, 2023
Éditeur: NeurIPS
DOI: 10.48550/arxiv.2306.10598

Explore to Generalize in Zero-Shot RL

Auteurs: Zisselman, Ev; Lavie, Itai; Soudry, Daniel; Tamar, Aviv
Publié dans: NeurIPS, 2023
Éditeur: NeurIPS
DOI: 10.48550/arxiv.2306.03072

The Implicit Bias of Minima Stability in Multivariate Shallow ReLU Networks

Auteurs: Nacson, Mor Shpigel; Mulayoff, Rotem; Ongie, Greg; Michaeli, Tomer; Soudry, Daniel
Publié dans: ICLR, 2023
Éditeur: ICLR

Continual Learning in Linear Classification on Separable Data

Auteurs: Evron, Itay; Moroshko, Edward; Buzaglo, Gon; Khriesh, Maroun; Marjieh, Badea; Srebro, Nathan; Soudry, Daniel
Publié dans: ICML, 2023
Éditeur: ICML
DOI: 10.48550/arxiv.2306.03534

Towards Cheaper Inference in Deep Networks with Lower Bit-Width Accumulators

Auteurs: Blumenfeld, Yaniv; Hubara, Itay; Soudry, Daniel
Publié dans: ICLR, 2024
Éditeur: ICLR

Gradient Descent Monotonically Decreases the Sharpness of Gradient Flow Solutions in Scalar Networks and Beyond

Auteurs: Kreisler, Itai; Nacson, Mor Shpigel; Soudry, Daniel; Carmon, Yair
Publié dans: ICML, 2023
Éditeur: ICML
DOI: 10.48550/arxiv.2305.13064

Accurate Neural Training with 4-bit Matrix Multiplications at Standard Formats

Auteurs: B. Chmiel, R. Banner, E. Hoffer, H. Ben Yaacov, D. Soudry
Publié dans: ICLR, 2023
Éditeur: ICLR

The Joint Effect of Task Similarity and Overparameterization on Catastrophic Forgetting -- An Analytical Model

Auteurs: Goldfarb, Daniel; Evron, Itay; Weinberger, Nir; Soudry, Daniel; Hand, Paul
Publié dans: ICLR, 2024
Éditeur: ICLR
DOI: 10.48550/arxiv.2401.12617

Minimum Variance Unbiased N:M Sparsity for the Neural Gradients

Auteurs: B. Chmiel, I. Hubara, R. Banner, D. Soudry
Publié dans: ICLR, 2023
Éditeur: ICLR

Alias-Free Convnets: Fractional Shift Invariance via Polynomial Activations

Auteurs: Michaeli, Hagay; Michaeli, Tomer; Soudry, Daniel
Publié dans: CVPR, 2023
Éditeur: CVPR
DOI: 10.48550/arxiv.2303.08085

How Uniform Random Weights Induce Non-uniform Bias: Typical Interpolating Neural Networks Generalize with Narrow Teachers

Auteurs: G. Buzaglo*, I. Harel*, M. Shpigel Nacson*, A. Brutzkus, N. Srebro, D. Soudry
Publié dans: ICML, 2024
Éditeur: ICML