Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Towards globally accessible language technology and its alignment to cultural contexts

Opis projektu

Rozwój wielojęzycznej technologii przetwarzania języka naturalnego

Duże modele językowe (LLM), takie jak ChatGPT, które zostały szeroko przyjęte w różnych sektorach, wykorzystują technologię przetwarzania języka naturalnego (NLP) do generowania płynnych odpowiedzi na instrukcje w języku naturalnym. Jednak zarówno LLM, jak i aplikacje wykorzystujące NLP były w dużej mierze ograniczone do kilku języków ze względu na ogromne ilości danych językowych wymaganych do ich szkolenia. Projekt CulturAL finansowany przez ERBN ma na celu pokonanie tych przeszkód, opracowując innowacyjną metodologię dla ponadjęzykowego transferu LLM, aby umożliwić ich dostosowanie do szerokiej gamy języków, dialektów i kontekstów kulturowych.

Cel

My research project focuses on natural language processing (NLP), an area of artificial intelligence concerned with automatic interpretation and generation of human language. NLP is well-known for its widely-used applications, such as machine translation (MT), text mining, question answering or dialogue systems. Much of this technology is now powered by large language models (LLMs), such as ChatGPT, which take a natural language instruction or question as input, and generate a fluent response. Due to their impressive performance in a range of tasks and their ease of use, in less than a year they received a wide adoption in many societal contexts (education, journalism, healthcare and others), and became the central paradigm in the field of NLP.

The development of LLMs, however, requires access to a vast amount of data and resources in a given language, as well as considerable computational infrastructure. As a result, these models are in practice limited to a handful of widely-spoken languages, leaving over 6,000 of the world’s languages and dialects without access to language technology. Furthermore, research on LLM alignment, which aims to ensure the safety of their use, has been almost exclusively directed toward the English-speaking world. Taken together, these problems lead to a major inequity in today’s language technology and artificial intelligence more broadly.

Taking a step towards a more inclusive and equitable language technology, this project will develop a novel methodology for cross-lingual transfer of LLMs to a wide-range of (low-resource, understudied) languages and dialects, and their alignment to diverse cultural contexts. The project will, therefore, advance multilingual NLP technology, extending its reach to populations currently underserved by NLP and making it safe for them to use.

Dziedzina nauki (EuroSciVoc)

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC - HORIZON ERC Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2024-COG

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

UNIVERSITEIT VAN AMSTERDAM
Wkład UE netto
€ 1 998 926,00
Koszt całkowity
€ 1 998 926,25

Beneficjenci (1)