Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Resolving the Paradoxes of Cross-lingual Transfer in Multilingual Language Models

Descrizione del progetto

Una nuova spinta per l’equità linguistica globale

La potenza rivoluzionaria dei modelli linguistici di grandi dimensioni (LLM) ha avvantaggiato le comunità le cui lingue sono ben rappresentate nei dati di addestramento, principalmente l’inglese. Tuttavia, queste poche lingue non sono in grado di servire ampi segmenti della popolazione globale, che complessivamente parla oltre 7 000 lingue. Per essere veramente utili, i sistemi intelligenti devono funzionare efficacemente nelle lingue preferite e negli ambienti di conoscenza locale dei loro utenti. Questa espansione richiede un ripensamento del trasferimento interlinguistico, soprattutto perché le conoscenze regionali e culturali differiscono notevolmente da una lingua all’altra. Il progetto RESPECT-LM, finanziato dal CER, intende risolvere questo problema sviluppando nuovi algoritmi di inferenza che localizzano, aumentano e adattano dinamicamente la conoscenza all’interno di LLM multilingue per qualsiasi interrogazione, garantendo che gli LLM possano essere contestualizzati e fondati sulle esigenze di tutte le comunità linguistiche.

Obiettivo

The technical advances, and resulting societal opportunities, of Large Language Models (LLMs) have principally benefited communities whose primary languages are well-represented in the written data used for training LLMs (e.g. English). While these few high-resource languages are used by many around the world, they do not cover large segments of the global population of 8.2 billion, who collectively speak over 7000 languages. For intelligent natural language systems to be adopted and useful, they must enable interaction in the preferred languages of their users and be knowledgeable of the environments of those users. This expansion of LLM functionality requires re-thinking the cross-lingual transfer paradigm for enabling systems in low-resource languages. In an era where LLMs are knowledge bases, naive reasoners, and interactive agents, our intuitions that held for cross-lingual transfer to linguistic tasks will not extend to transferring regional and cultural knowledge understanding, which may differ even among similar languages.

In this proposal, we reformulate cross-lingual transfer using inference-time algorithms that dynamically localize, augment, and adapt implicit language and knowledge representations of multilingual LLMs for queries presented in any language. These new algorithms will leverage shared linguistic knowledge for cross-lingual transfer to new languages while disentangling regional and cultural knowledge that is tied to language but unique to individual language environments. Second, we will develop novel modular architectures to catalyze our adaptation algorithms by disentangling language and knowledge representations within multilingual LLMs during pretraining. Finally, we will develop new benchmarks, settings, and standards for reliable evaluation of regional knowledge in multilingual contexts.

Campo scientifico (EuroSciVoc)

CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: Il Vocabolario Scientifico Europeo.

È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione

Parole chiave

Parole chiave del progetto, indicate dal coordinatore del progetto. Da non confondere con la tassonomia EuroSciVoc (campo scientifico).

Programma(i)

Programmi di finanziamento pluriennali che definiscono le priorità dell’UE in materia di ricerca e innovazione.

Argomento(i)

Gli inviti a presentare proposte sono suddivisi per argomenti. Un argomento definisce un’area o un tema specifico per il quale i candidati possono presentare proposte. La descrizione di un argomento comprende il suo ambito specifico e l’impatto previsto del progetto finanziato.

Meccanismo di finanziamento

Meccanismo di finanziamento (o «Tipo di azione») all’interno di un programma con caratteristiche comuni. Specifica: l’ambito di ciò che viene finanziato; il tasso di rimborso; i criteri di valutazione specifici per qualificarsi per il finanziamento; l’uso di forme semplificate di costi come gli importi forfettari.

HORIZON-ERC - HORIZON ERC Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

Procedura per invitare i candidati a presentare proposte di progetti, con l’obiettivo di ricevere finanziamenti dall’UE.

(si apre in una nuova finestra) ERC-2025-STG

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

ECOLE POLYTECHNIQUE FEDERALE DE LAUSANNE
Contributo netto dell'UE

Contributo finanziario netto dell’UE. La somma di denaro che il partecipante riceve, decurtata dal contributo dell’UE alla terza parte collegata. Tiene conto della distribuzione del contributo finanziario dell’UE tra i beneficiari diretti del progetto e altri tipi di partecipanti, come i partecipanti terzi.

€ 1 499 597,00
Indirizzo
BATIMENT CE 3316 STATION 1
1015 LAUSANNE
Svizzera

Mostra sulla mappa

Regione
Schweiz/Suisse/Svizzera Région lémanique Vaud
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale

I costi totali sostenuti dall’organizzazione per partecipare al progetto, compresi i costi diretti e indiretti. Questo importo è un sottoinsieme del bilancio complessivo del progetto.

€ 1 499 597,00

Beneficiari (1)

Il mio fascicolo 0 0