Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Resolving the Paradoxes of Cross-lingual Transfer in Multilingual Language Models

Opis projektu

Zwiększony nacisk na globalną równość językową

Przełomowy charakter dużych modeli językowych (LLM) wiąże się z korzyściami dla społeczności, których języki są dobrze reprezentowane w danych szkoleniowych - mowa głównie o użytkownikach języka angielskiego. Problemem pozostaje fakt, że wiele grup ludności na świecie nie posługuje się najpopularniejszymi językami, a ich ogólna liczba wynosi przeszło 7 000. Aby inteligentne systemy były naprawdę użyteczne, muszą funkcjonować poprawnie w preferowanych językach i lokalnych środowiskach wiedzy ich użytkowników. Ta zmiana wymaga świeżego spojrzenia na zagadnienie transferu międzyjęzykowego, a w szczególności uwzględnienie różnic wiedzy regionalnej i kulturowej w zależności od języka. Zespół finansowanego ze środków Europejskiej Rady ds. Badań Naukowych projektu RESPECT-LM ma na celu rozwiązanie tego problemu poprzez opracowanie nowych algorytmów wnioskowania w czasie, które dynamicznie lokalizują, rozszerzają i dostosowują wiedzę w ramach wielojęzycznych dużych modeli językowych dla dowolnego zapytania, zapewniając możliwość ich kontekstualizacji i uwzględnienia potrzeb wszystkich społeczności językowych.

Cel

The technical advances, and resulting societal opportunities, of Large Language Models (LLMs) have principally benefited communities whose primary languages are well-represented in the written data used for training LLMs (e.g. English). While these few high-resource languages are used by many around the world, they do not cover large segments of the global population of 8.2 billion, who collectively speak over 7000 languages. For intelligent natural language systems to be adopted and useful, they must enable interaction in the preferred languages of their users and be knowledgeable of the environments of those users. This expansion of LLM functionality requires re-thinking the cross-lingual transfer paradigm for enabling systems in low-resource languages. In an era where LLMs are knowledge bases, naive reasoners, and interactive agents, our intuitions that held for cross-lingual transfer to linguistic tasks will not extend to transferring regional and cultural knowledge understanding, which may differ even among similar languages.

In this proposal, we reformulate cross-lingual transfer using inference-time algorithms that dynamically localize, augment, and adapt implicit language and knowledge representations of multilingual LLMs for queries presented in any language. These new algorithms will leverage shared linguistic knowledge for cross-lingual transfer to new languages while disentangling regional and cultural knowledge that is tied to language but unique to individual language environments. Second, we will develop novel modular architectures to catalyze our adaptation algorithms by disentangling language and knowledge representations within multilingual LLMs during pretraining. Finally, we will develop new benchmarks, settings, and standards for reliable evaluation of regional knowledge in multilingual contexts.

Dziedzina nauki (EuroSciVoc)

Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.

Aby użyć tej funkcji, musisz się zalogować lub zarejestrować

Słowa kluczowe

Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.

Program(-y)

Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.

Temat(-y)

Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.

System finansowania

Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.

HORIZON-ERC - HORIZON ERC Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.

(odnośnik otworzy się w nowym oknie) ERC-2025-STG

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

ECOLE POLYTECHNIQUE FEDERALE DE LAUSANNE
Wkład UE netto

Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.

€ 1 499 597,00
Adres
BATIMENT CE 3316 STATION 1
1015 LAUSANNE
Szwajcaria

Zobacz na mapie

Region
Schweiz/Suisse/Svizzera Région lémanique Vaud
Rodzaj działalności
Higher or Secondary Education Establishments
Linki
Koszt całkowity

Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.

€ 1 499 597,00

Beneficjenci (1)

Moja broszura 0 0