Projektbeschreibung
Die Gerechtigkeit von Modellen zur maschinellen Sprachverarbeitung
Die maschinelle Sprachverarbeitung ist das Herzstück einer KI, die in menschlichen Sprachen lernen, verstehen und kommunizieren kann. Allerdings bestehen Herausforderungen bezüglich der Gerechtigkeit und Robustheit der Modelle, oft weil der Fokus auf der Größe der Datensätze liegt, und nicht auf der Qualität. Dieses Problem wird im ERC-finanzierten Projekt DataDivers mit einem revolutionären Rahmen zur Messung der Datenvielfalt in Datensätzen zur maschinellen Sprachverarbeitung angegangen. Das Team wird den Einfluss der Datenvielfalt auf das Modellverhalten prüfen und innovative Lösungen suchen, die Vielfalt für robustere und gerechtere Modelle auszunutzen. Mit der Arbeit wird das DataDivers-Team die Art und Weise verändern, wie Datenvielfalt bei diesen Modellen betrachtet wird, damit KI gerechter und leistungsfähiger wird.
Ziel
Despite great progress in the field of Natural Language Processing (NLP), the field is still struggling to ensure the robustness and fairness of models. So far, NLP has prioritized data size over data quality. Yet there is growing evidence suggesting that the diversity of data, a key dimension of data quality, is crucial for fair and robust NLP models. Many researchers are therefore trying to create more diverse datasets, but there is no clear path for them to follow. Even the fundamental question “How can we measure the diversity of a dataset?” is currently wide open. It is both surprising and concerning that we still lack the tools and theoretical insights to understand, improve, and leverage data diversity in NLP.
DataDivers will 1) develop the first ever framework to measure data diversity in NLP datasets; 2) investigate how data diversity impacts NLP model behavior; and 3) develop novel approaches that harness data diversity for fairer and more robust NLP models. I operationally define the diversity of a text collection as the variability of texts along specific dimensions (e.g. semantic, lexical, and sociolinguistic). Sociolinguistic diversity in particular, is an overlooked but crucial dimension, which I am committed to addressing.
DataDivers will break new ground by taking a comprehensive view of data diversity, which is urgently needed for robust and fair NLP. Its approach will be both theoretical and empirical. It will combine insights from disciplines that have developed methodologies to quantify data diversity with rigorous empirical experimentation. DataDivers will take a unique view on data diversity: measuring it at the dataset level, and across contexts for individual features. Finally, DataDivers will use its framework to develop diversity-informed data collection and model training methods. DataDivers’ results will impact the full NLP development pipeline—from data collection to evaluation—and open up a new, urgently needed, area of research.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2024-STG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC -Gastgebende Einrichtung
3584 CS Utrecht
Niederlande