DeepLearning 2.0: Meta-Learning Qualitatively New Components

Rethinking Bias Mitigation: Fairer Architectures Make for Fairer Face Recognition

Autoren: Dooley, Samuel; Sukthanker, Rhea Sanjay; Dickerson, John P.; White, Colin; Hutter, Frank; Goldblum, Micah
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 36, 2023, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2210.09943

Multi-objective Tree-structured Parzen Estimator Meets Meta-learning

Autoren: Watanabe, Shuhei; Awad, Noor; Onishi, Masaki; Hutter, Frank
Veröffentlicht in: Workshop on Meta-Learning at the Conference on Neural Information Processing Systems, 2022
Herausgeber: openreview.net

PED-ANOVA: Efficiently Quantifying Hyperparameter Importance in Arbitrary Subspaces

Autoren: Watanabe, Shuhei; Bansal, Archit; Hutter, Frank
Veröffentlicht in: International Joint Conference on Artificial Intelligence, Ausgabe 32, 2023, ISSN 1045-0823
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.24963/ijcai.2023/488

Weight-Entanglement Meets Gradient-Based Neural Architecture Search

Autoren: Sukthanker, Rhea Sanjay; Krishnakumar, Arjun; Safari, Mahmoud; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine Learning, Ausgabe 4, 2024
Herausgeber: openreview.net
DOI: 10.48550/arxiv.2312.10440

Quick-Tune-Tool: A Practical Tool and its User Guide for Automatically Finetuning Pretrained Models

Autoren: Rapant, Ivo; Purucker, Lennart; Ferreira, Fabio; Arango, Sebastian Pineda; Kadra, Arlind; Grabocka, Josif; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

LMEMs for post-hoc analysis of HPO Benchmarking

Autoren: Geburek, Anton Merlin; Mallik, Neeratyoy; Stoll, Danny; Bouthillier, Xavier; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

Warmstarting for Scaling Language Models

Autoren: Mallik, Neeratyoy; Janowski, Maciej; Hog, Johannes; Rakotoarison, Herilalaina; Klein, Aaron; Grabocka, Josif; Hutter, Frank
Veröffentlicht in: Workshop on Adaptive Foundation Models: Evolving AI for Personalized and Efficient Learning at NeurIPS 2024, 2024
Herausgeber: openreview.net

Mamba4Cast: Efficient Zero-Shot Time Series Forecasting with State Space Models

Autoren: Bhethanabhotla, Sathya Kamesh; Swelam, Omar; Siems, Julien; Salinas, David; Hutter, Frank
Veröffentlicht in: Workshop on Time Series in the Age of Large Models at NeurIPS 2024, 2024
Herausgeber: openreview.net

Preserving Principal Subspaces to Reduce Catastrophic Forgetting in Fine-tuning

Autoren: Franke, Jorg K.H.; Hefenbrock, Michael; Hutter, Frank
Veröffentlicht in: Workshop on Mathematical and Empirical Understanding of Foundation Models at ICLR 2024, 2024
Herausgeber: openreview.net

Probabilistic Transformer: Modelling Ambiguities and Distributions for RNA Folding and Molecule Design

Autoren: Franke, Jörg K. H.; Runge, Frederic; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 35, 2022, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2205.13927

From Epoch to Sample Size: Developing New Data-driven Priors for Learning Curve Prior-Fitted Networks

Autoren: Viering, Tom Julian; Adriaensen, Steven; Rakotoarison, Herilalaina; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

Joint Entropy Search For Maximally-Informed Bayesian Optimization

Autoren: Hvarfner, Carl; Hutter, Frank; Nardi, Luigi
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 35, 2022, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arXiv.2206.04771

Speeding Up Multi-Objective Hyperparameter Optimization by Task Similarity-Based Meta-Learning for the Tree-Structured Parzen Estimator

Autoren: Watanabe, Shuhei; Awad, Noor; Onishi, Masaki; Hutter, Frank
Veröffentlicht in: International Joint Conference on Artificial Intelligence, Ausgabe 32, 2023, ISSN 1045-0823
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.24963/ijcai.2023/487

Efficient Bayesian Learning Curve Extrapolation using Prior-Data Fitted Networks

Autoren: Adriaensen, Steven; Rakotoarison, Herilalaina; Müller, Samuel; Hutter, Frank
Veröffentlicht in: Advances in neural information processing systems, Ausgabe 36, 2023, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2310.20447

LoRA-DARTS: Low Rank Adaptation for Differentiable Architecture Search

Autoren: Krishnakumar, Arjun; Jha, Abhash Kumar; Moradian, Shakiba; Rapp, Martin; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

HPO-RL-Bench: A Zero-Cost Benchmark for HPO in Reinforcement Learning

Autoren: Shala, Gresa; Arango, Sebastian Pineda; Biedenkapp, Andre; Hutter, Frank; Grabocka, Josif
Veröffentlicht in: International Conference on Automated Machine learning (ABCD Track), Ausgabe 4, 2024
Herausgeber: openreview.net

GraViT-E: Gradient-based Vision Transformer Search with Entangled Weights

Autoren: Sukthanker, Rhea Sanjay; Krishnakumar, Arjun; Patil, Sharat; Hutter, Frank
Veröffentlicht in: Sixth Workshop on Meta-Learning at the Conference on Neural Information Processing Systems, 2022
Herausgeber: openreview.net

Fast Benchmarking of Asynchronous Multi-Fidelity Optimization on Zero-Cost Benchmarks

Autoren: Watanabe, Shuhei; Mallik, Neeratyoy; Bergman, Edward; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine Learning, Ausgabe 4, 2024
Herausgeber: openreview.net
DOI: 10.48550/arXiv.2403.01888

Construction of Hierarchical Neural Architecture Search Spaces based on Context-free Grammars

Autoren: Schrodi, Simon; Stoll, Danny; Ru, Binxin; Sukthanker, Rhea; Brox, Thomas; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 36, 2023, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2211.01842

HW-GPT-Bench: Hardware-Aware Architecture Benchmark for Language Models

Autoren: Sukthanker, Rhea Sanjay; Zela, Arber; Staffler, Benedikt; Klein, Aaron; Purucker, Lennart; Franke, Jorg K.H.; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 38, 2024
Herausgeber: openreview.net

Towards Quantifying the Effect of Datasets for Benchmarking: A Look at Tabular Machine Learning

Autoren: Kohli, Ravin; Feurer, Matthias; Eggensperger, Katharina; Bischl, Bernd; Hutter, Frank
Veröffentlicht in: Data-centric Machine Learning Research (DMLR) Workshop at ICLR (2024), 2024
Herausgeber: openreview.net

Gray-Box Gaussian Processes for Automated Reinforcement Learning

Autoren: Shala, Gresa; Biedenkapp, André; Hutter, Frank; Grabocka, Josif
Veröffentlicht in: International Conference on Learning Representations, Ausgabe 11, 2023
Herausgeber: openreview.net

c-TPE: Tree-structured Parzen Estimator with Inequality Constraints for Expensive Hyperparameter Optimization

Autoren: Watanabe, Shuhei; Hutter, Frank
Veröffentlicht in: International Joint Conference on Artificial Intelligence, Ausgabe 32, 2023, ISSN 1045-0823
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.24963/ijcai.2023/486

Ensembling Finetuned Language Models for Text Classification

Autoren: Arango, Sebastian Pineda; Janowski, Maciej; Purucker, Lennart; Zela, Arber; Hutter, Frank; Grabocka, Josif
Veröffentlicht in: Workshop on Fine-Tuning in Modern Machine Learning: Principles and Scalability at NeurIPS 2024, 2024
Herausgeber: openreview.net

Towards Generative RNA Design with Tertiary Interactions

Autoren: Sharat Patil and Runge, Frederic; Franke, Jorg K.H.; Hutter, Frank
Veröffentlicht in: Workshop on Generative and Experimental Perspectives for Biomolecular Design at ICLR 2024, 2024
Herausgeber: openreview.net

NOSBench-101: Towards Reproducible Neural Optimizer Search

Autoren: Karakasli, Goktug; Adriaensen, Steven; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

TabPFN: A Transformer That Solves Small Tabular Classification Problems in a Second

Autoren: Hollmann, Noah; Muller, Samuel; Eggensperger, Katharina; Hutter, Frank
Veröffentlicht in: International Conference on Learning Representations, Ausgabe 11, 2023
Herausgeber: openreview.net
DOI: 10.48550/arXiv.2207.01848

Beyond Graph-Based Modeling for Hierarchical Neural Architecture Search

Autoren: Birinxhiku, Lum; Stoll, Danny; Schrodi, Simon; Hutter, Frank
Veröffentlicht in: International Conference on Automated Machine learning (Workshop Track), 2024
Herausgeber: openreview.net

Is Mamba Capable of In-Context Learning?

Autoren: Grazzi, Riccardo; Siems, Julien Niklas; Schrodi, Simon; Brox, Thomas; Hutter, Frank
Veröffentlicht in: Workshop on Mathematical and Empirical Understanding of Foundation Models at ICLR 2024, 2024
Herausgeber: openreview.net

DeepCAVE: An Interactive Analysis Tool for Automated Machine Learning

Autoren: Sass, René; Bergman, Eddie; Biedenkapp, André; Hutter, Frank; Lindauer, Marius
Veröffentlicht in: Workshop on Adaptive Experimental Design and Active Learning in the Real World at ICML 20222, 2022
Herausgeber: PMLR
DOI: 10.48550/arxiv.2206.03493

Self-Correcting Bayesian Optimization through Bayesian Active Learning

Autoren: Hvarfner, Carl; Hellsten, Erik; Hutter, Frank; Nardi, Luigi
Veröffentlicht in: Advances in neural information processing systems, Ausgabe 36, 2023, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arXiv.2304.11005

PriorBand: Practical Hyperparameter Optimization in the Age of Deep Learning

Autoren: Mallik, Neeratyoy; Bergman, Edward; Hvarfner, Carl; Stoll, Danny; Janowski, Maciej; Lindauer, Marius; Nardi, Luigi; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 36, 2023, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2306.12370

Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data

Autoren: Helli, Kai; Schnurr, David; Hollmann, Noah; Müller, Samuel; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 38, 2024
Herausgeber: openreview.net

On the Importance of Hyperparameters and Data Augmentation for Self-Supervised Learning

Autoren: Wagner, Diane; Ferreira, Fabio; Stoll, Danny; Schirrmeister, Robin Tibor; Müller, Samuel; Hutter, Frank
Veröffentlicht in: First Workshop of Pre-training: Perspectives, Pitfalls, and Paths at ICML 2022, 2022
Herausgeber: PMLR
DOI: 10.48550/arxiv.2207.07875

Improving Deep Learning Optimization through Constrained Parameter Regularization

Autoren: Franke, Jörg; Hefenbrock, Michael; Koehler, Gregor; Hutter, Frank
Veröffentlicht in: Advances in Neural Information Processing Systems, Ausgabe 38, 2024
Herausgeber: openreview.net

Large Language Model Compression with Neural Architecture Search

Autoren: Sukthanker, Rhea Sanjay; Staffler, Benedikt; Hutter, Frank; Klein, Aaron
Veröffentlicht in: Workshop on Machine Learning and Compression at NeurIPS 2024, 2024
Herausgeber: openreview.net

RNA-Protein Interaction Classification via Sequence Embeddings

Autoren: Matus, Dominika; Runge, Frederic; Franke, Jorg K.H.; Gerne, Lars; Uhl, Michael; Hutter, Frank; Backofen, Rolf
Veröffentlicht in: Workshop on Generative and Experimental Perspectives for Biomolecular Design at ICLR 2024, 2024
Herausgeber: openreview.net

Quick-Tune: Quickly Learning Which Pretrained Model to Finetune and How

Autoren: Arango, Sebastian Pineda; Ferreira, Fabio; Kadra, Arlind; Hutter, Frank; Grabocka, Josif
Veröffentlicht in: International Conference on Learning Representations, Ausgabe 11, 2024
Herausgeber: OpenReview.net
DOI: 10.48550/arxiv.2306.03828

The Tabular Foundation Model TabPFN Outperforms Specialized Time Series Forecasting Models Based on Simple Features

Autoren: Hoo, Shi Bin; Muller, Samuel; Salinas, David; Hutter, Frank
Veröffentlicht in: Workshop on Table Representation Learning at NeurIPS 2024, Ausgabe 3, 2024
Herausgeber: openreview.net

Zero-Shot AutoML with Pretrained Models

Autoren: Öztürk, Ekrem; Ferreira, Fabio; Jomaa, Hadi S.; Schmidt-Thieme, Lars; Grabocka, Josif; Hutter, Frank
Veröffentlicht in: International Conference on Machine Learning, Ausgabe 39, 2022, ISSN 2640-3498
Herausgeber: PMLR
DOI: 10.48550/arxiv.2206.08476

AutoRL-Bench 1.0

Autoren: Shala, Gresa; Arango, Sebastian Pineda ; Biedenkapp, André; Hutter, Frank; Grabocka, Josif
Veröffentlicht in: Workshop on Meta-Learning at NeurIPS 2022, Ausgabe 6, 2023
Herausgeber: openreview.net

NAS-Bench-Suite-Zero: Accelerating Research on Zero Cost Proxies

Autoren: Krishnakumar, Arjun; White, Colin; Zela, Arber; Tu, Renbo; Safari, Mahmoud; Hutter, Frank
Veröffentlicht in: Neural Information Processing Systems, Ausgabe 35, 2022, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/arxiv.2210.03230

GAMformer: Exploring In-Context Learning for Generalized Additive Models

Autoren: Mueller, Andreas C; Siems, Julien; Nori, Harsha; Salinas, David; Zela, Arber; Caruana, Rich; Hutter, Frank
Veröffentlicht in: Workshop Table Representation Learning at NeurIPS 2024, Ausgabe 3, 2024
Herausgeber: openreview.net

In-Context Freeze-Thaw Bayesian Optimization for Hyperparameter Optimization

Autoren: Rakotoarison, Herilalaina; Adriaensen, Steven; Mallik, Neeratyoy; Garibov, Samir; Bergman, Eddie; Hutter, Frank
Veröffentlicht in: International Conference on Machine Learning, Ausgabe 41, 2024, ISSN 2640-3498
Herausgeber: PMLR
DOI: 10.48550/arXiv.2404.16795

JAHS-Bench-201: A Foundation For Research On Joint Architecture And Hyperparameter Search

Autoren: Bansal, Archit; Stoll, Danny; Janowski, Maciej; Zela, Arber; Hutter,Frank
Veröffentlicht in: Advances in Neural Information Processing Systems Datasets and Benchmarks Track, Ausgabe 36, 2022, ISSN 1049-5258
Herausgeber: Curran Associates, Inc.

One-shot World Models Using a Transformer Trained on a Synthetic Prior

Autoren: Ferreira, Fabio; Schlageter, Moreno; Rajan, Raghu; Biedenkapp, Andre; Hutter, Frank
Veröffentlicht in: Workshop Open-World Agents at NeurIPS 2024, 2024
Herausgeber: openreview.net

New Horizons in Parameter Regularization: A Constraint Approach

Autoren: Franke, Jörg K. H.; Hefenbrock, Michael; Koehler, Gregor; Hutter, Frank
Veröffentlicht in: 15th Annual Workshop on Optimization for Machine Learning, 2023
Herausgeber: open review.net
DOI: 10.48550/arxiv.2311.09058

Unlocking State-Tracking in Linear RNNs Through Negative Eigenvalues

Autoren: Grazzi, Riccardo; Siems, Julien; Franke, Jorg K.H.; Zela, Arber; Hutter, Frank; Pontil, Massimiliano
Veröffentlicht in: Workshop on Mathematics of Modern Machine Learning at NeurIPS 2024, 2024
Herausgeber: openreview.net

Multi-objective Differentiable Neural Architecture Search

Autoren: Sukthanker, Rhea S.; Zela, Arber; Staffler, Benedikt; Dooley, Samuel; Grabocka, Josif; Hutter,Frank
Veröffentlicht in: Arxiv, 2024
Herausgeber: Arxiv

KinPFN: Bayesian Approximation of RNA Folding Kinetics using Prior-Data Fitted Networks

Autoren: Dominik Scheuer, Frederic Runge, Jörg K.H. Franke, Michael T. Wolfinger, Christoph Flamm, Frank Hutter
Veröffentlicht in: 2024
Herausgeber: Cold Spring Harbor Laboratory
DOI: 10.1101/2024.10.15.618378

Partial RNA Design

Autoren: Runge, Frederic; Franke, Jörg K.H.; Fertmann, Daniel; Backofen, Rolf; Hutter, Frank
Veröffentlicht in: Biorxiv, 2024
Herausgeber: Cold Spring Harbor Laboratory
DOI: 10.1101/2023.12.29.573656

Neural Architecture Search: Insights from 1000 Papers

Autoren: White, Colin; Safari, Mahmoud; Sukthanker, Rhea; Ru, Binxin; Elsken, Thomas; Zela, Arber; Dey, Debadeepta, Hutter, Frank
Veröffentlicht in: Arxiv, 2023
Herausgeber: arxiv
DOI: 10.48550/arXiv.2301.08727

Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML

Autoren: Weerts, Hilde; Pfisterer, Florian; Feurer, Matthias; Eggensperger, Katharina; Bergman, Edward; Awad, Noor; Vanschoren, Joaquin; Pechenizkiy, Mykola; Bischl, Bernd; Hutter, Frank
Veröffentlicht in: Journal of Artificial Intelligence Research, Ausgabe 79, 2024, ISSN 1076-9757
Herausgeber: Morgan Kaufmann Publishers, Inc.
DOI: 10.1613/jair.1.14747

Veröffentlichungen

Diese Seite teilen Diese Seite in sozialen Netzwerken teilen

Herunterladen Den Inhalt der Seite herunterladen