Adaptive Tokenization and Memory in Foundation Models for Efficient and Long-Horizon AI

Informazioni relative al progetto

AToM-FM

ID dell’accordo di sovvenzione: 101222956

DOI

10.3030/101222956

Data della firma CE 4 Settembre 2025

Data di avvio 1 Novembre 2025

Data di completamento 31 Ottobre 2030

Finanziato da

• European Research Council (ERC)

Costo totale

€ 1 499 453,00

Contributo UE

€ 1 499 453,00

Coordinato da

THE UNIVERSITY OF EDINBURGH
United Kingdom

CORDIS fornisce collegamenti ai risultati finali pubblici e alle pubblicazioni dei progetti ORIZZONTE.

I link ai risultati e alle pubblicazioni dei progetti del 7° PQ, così come i link ad alcuni tipi di risultati specifici come dataset e software, sono recuperati dinamicamente da .OpenAIRE .

Risultati finali

Data Management Plan (1)

Data Management Plan

Release of data management plan

Pubblicazioni

Conference proceedings (5)

Can Vision-Language Models Predict Future States? Bootstrapping World Models from Inverse Dynamics

Autori: Yifu Qiu, Yftah Ziser, Anna Korhonen, Shay B. Cohen, Edoardo M. Ponti
Pubblicato in: Proceedings of the 65th Annual Meeting of the Association for Computational Linguistics, 2026
Editore: Association for Computational Linguistics

Neurosymbolic Diffusion Models

Autori: Emile van Krieken, Pasquale Minervini, Edoardo M. Ponti, Antonio Vergari
Pubblicato in: The Thirty-ninth Annual Conference on Neural Information Processing Systems, 2025
Editore: Curran Associates

Universal Cross-Tokenizer Distillation via Approximate Likelihood Matching

Autori: Benjamin Minixhofer, Ivan Vulić, Edoardo Ponti
Pubblicato in: The Thirty-ninth Annual Conference on Neural Information Processing Systems, 2025
Editore: Curran Associates

The sparse frontier: Sparse attention trade-offs in Transformer LLMs

Autori: Piotr Nawrot, Robert Li, Renjie Huang, Sebastian Ruder, Kelly Marchisio, Edoardo M. Ponti
Pubblicato in: Proceedings of the 65th Annual Meeting of the Association for Computational Linguistics, 2026
Editore: Association for Computational Linguistics

Inference-Time Hyper-Scaling with KV Cache Compression

Autori: Adrian Łańcucki ~Adrian_Łańcucki1 , Konrad Staniszewski, Piotr Nawrot, Edoardo M. Ponti
Pubblicato in: The Thirty-ninth Annual Conference on Neural Information Processing Systems, 2025
Editore: Curran Associates