Algorithmic Bias Control in Deep learning

Projektinformationen

A-B-C-Deep

ID Finanzhilfevereinbarung: 101039436

DOI 10.3030/101039436

EK-Unterschriftsdatum 17 Mai 2022

Startdatum 1 Juni 2022

Enddatum 31 Mai 2027

Finanziert unter

• European Research Council (ERC)

Gesamtkosten € 1 500 000,00

EU-Beitrag € 1 500 000,00

Koordiniert durch

TECHNION - ISRAEL INSTITUTE OF TECHNOLOGY
Israel

Veröffentlichungen

Conference proceedings (13)

How do Minimum-Norm Shallow Denoisers Look in Function Space?

Autoren: Zeno, Chen; Ongie, Greg; Blumenfeld, Yaniv; Weinberger, Nir; Soudry, Daniel
Veröffentlicht in: NeurIPS, 2023
Herausgeber: NeurIPS
DOI: 10.48550/arxiv.2311.06748

The Role of Codeword-to-Class Assignments in Error-Correcting Codes: An Empirical Study

Autoren: Evron, Itay; Onn, Ophir; Orzech, Tamar Weiss; Azeroual, Hai; Soudry, Daniel
Veröffentlicht in: AISTAT, 2023
Herausgeber: AISTAT
DOI: 10.48550/arxiv.2302.05334

DropCompute: simple and more robust distributed synchronous training via compute variance reduction

Autoren: Giladi, Niv; Gottlieb, Shahar; Shkolnik, Moran; Karnieli, Asaf; Banner, Ron; Hoffer, Elad; Levy, Kfir Yehuda; Soudry, Daniel
Veröffentlicht in: NeurIPS, 2023
Herausgeber: NeurIPS
DOI: 10.48550/arxiv.2306.10598

Explore to Generalize in Zero-Shot RL

Autoren: Zisselman, Ev; Lavie, Itai; Soudry, Daniel; Tamar, Aviv
Veröffentlicht in: NeurIPS, 2023
Herausgeber: NeurIPS
DOI: 10.48550/arxiv.2306.03072

The Implicit Bias of Minima Stability in Multivariate Shallow ReLU Networks

Autoren: Nacson, Mor Shpigel; Mulayoff, Rotem; Ongie, Greg; Michaeli, Tomer; Soudry, Daniel
Veröffentlicht in: ICLR, 2023
Herausgeber: ICLR

Continual Learning in Linear Classification on Separable Data

Autoren: Evron, Itay; Moroshko, Edward; Buzaglo, Gon; Khriesh, Maroun; Marjieh, Badea; Srebro, Nathan; Soudry, Daniel
Veröffentlicht in: ICML, 2023
Herausgeber: ICML
DOI: 10.48550/arxiv.2306.03534

Towards Cheaper Inference in Deep Networks with Lower Bit-Width Accumulators

Autoren: Blumenfeld, Yaniv; Hubara, Itay; Soudry, Daniel
Veröffentlicht in: ICLR, 2024
Herausgeber: ICLR

Gradient Descent Monotonically Decreases the Sharpness of Gradient Flow Solutions in Scalar Networks and Beyond

Autoren: Kreisler, Itai; Nacson, Mor Shpigel; Soudry, Daniel; Carmon, Yair
Veröffentlicht in: ICML, 2023
Herausgeber: ICML
DOI: 10.48550/arxiv.2305.13064

Accurate Neural Training with 4-bit Matrix Multiplications at Standard Formats

Autoren: B. Chmiel, R. Banner, E. Hoffer, H. Ben Yaacov, D. Soudry
Veröffentlicht in: ICLR, 2023
Herausgeber: ICLR

The Joint Effect of Task Similarity and Overparameterization on Catastrophic Forgetting -- An Analytical Model

Autoren: Goldfarb, Daniel; Evron, Itay; Weinberger, Nir; Soudry, Daniel; Hand, Paul
Veröffentlicht in: ICLR, 2024
Herausgeber: ICLR
DOI: 10.48550/arxiv.2401.12617

Minimum Variance Unbiased N:M Sparsity for the Neural Gradients

Autoren: B. Chmiel, I. Hubara, R. Banner, D. Soudry
Veröffentlicht in: ICLR, 2023
Herausgeber: ICLR

Alias-Free Convnets: Fractional Shift Invariance via Polynomial Activations

Autoren: Michaeli, Hagay; Michaeli, Tomer; Soudry, Daniel
Veröffentlicht in: CVPR, 2023
Herausgeber: CVPR
DOI: 10.48550/arxiv.2303.08085

How Uniform Random Weights Induce Non-uniform Bias: Typical Interpolating Neural Networks Generalize with Narrow Teachers

Autoren: G. Buzaglo*, I. Harel*, M. Shpigel Nacson*, A. Brutzkus, N. Srebro, D. Soudry
Veröffentlicht in: ICML, 2024
Herausgeber: ICML