Descrizione del progetto
Esplorare l’equità dei modelli di elaborazione del linguaggio naturale
L’elaborazione del linguaggio naturale (NLP, natural language processing) è essenziale per creare IA in grado di apprendere, comprendere e comunicare nei linguaggi umani. Tuttavia, la NLP deve affrontare sfide per garantire l’equità e la solidità dei suoi modelli, spesso a causa di un’attenzione alle dimensioni piuttosto che alla qualità dei set di dati. Il progetto DataDivers, finanziato dal CER, intende affrontare questo problema sviluppando un quadro rivoluzionario per misurare la diversità dei dati all’interno dei set di dati di NLP. Il progetto studierà l’impatto della diversità dei dati sul comportamento dei modelli di NLP, ed elaborerà soluzioni innovative per sfruttare la diversità e creare modelli più solidi ed equi. Grazie a questi sforzi, DataDivers trasformerà il modo in cui la NLP affronta la diversità dei dati, portando a progressi nell’equità e nelle prestazioni dell’IA.
Obiettivo
Despite great progress in the field of Natural Language Processing (NLP), the field is still struggling to ensure the robustness and fairness of models. So far, NLP has prioritized data size over data quality. Yet there is growing evidence suggesting that the diversity of data, a key dimension of data quality, is crucial for fair and robust NLP models. Many researchers are therefore trying to create more diverse datasets, but there is no clear path for them to follow. Even the fundamental question “How can we measure the diversity of a dataset?” is currently wide open. It is both surprising and concerning that we still lack the tools and theoretical insights to understand, improve, and leverage data diversity in NLP.
DataDivers will 1) develop the first ever framework to measure data diversity in NLP datasets; 2) investigate how data diversity impacts NLP model behavior; and 3) develop novel approaches that harness data diversity for fairer and more robust NLP models. I operationally define the diversity of a text collection as the variability of texts along specific dimensions (e.g. semantic, lexical, and sociolinguistic). Sociolinguistic diversity in particular, is an overlooked but crucial dimension, which I am committed to addressing.
DataDivers will break new ground by taking a comprehensive view of data diversity, which is urgently needed for robust and fair NLP. Its approach will be both theoretical and empirical. It will combine insights from disciplines that have developed methodologies to quantify data diversity with rigorous empirical experimentation. DataDivers will take a unique view on data diversity: measuring it at the dataset level, and across contexts for individual features. Finally, DataDivers will use its framework to develop diversity-informed data collection and model training methods. DataDivers’ results will impact the full NLP development pipeline—from data collection to evaluation—and open up a new, urgently needed, area of research.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Parole chiave
Programma(i)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Argomento(i)
Invito a presentare proposte
(si apre in una nuova finestra) ERC-2024-STG
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-ERC - HORIZON ERC GrantsIstituzione ospitante
3584 CS Utrecht
Paesi Bassi