Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Robust Generative Information Retrieval

Projektbeschreibung

Vertrauenswürdige generative Informationswiedergewinnung

Die traditionelle Art und Weise des Informationsabrufs beruht auf Indizierung und Suche. Ein neuer generativer Ansatz zur Informationswiedergewinnung kodiert ganze Dokumentsammlungen direkt in ein Modell. Diese Suche wird dann in eine Sequenz-zu-Sequenz-Lernaufgabe umgewandelt, über die allgemeinere Ziele wie Fairness, Vielfalt und langfristige Auswirkungen optimiert werden können. Das ERC-finanzierte Projekt UNITE hat zum Ziel, vertrauenswürdige generative Abfragesysteme zu entwickeln. Dazu kombiniert es generative Modelle mit Verstärkungslernen. Zudem werden Genauigkeit, Zuverlässigkeit und Belastbarkeit gewährleistet sowie Erklärbarkeit, Reproduzierbarkeit und Sicherheit untersucht. Anwendungsgebiete umfassen Nachrichtensuche, Empfehlungssysteme und den Abruf von klimarelevanten Informationen. UNITE soll grundlegend verändern, wie Informationsgewinnung konzipiert, bewertet und zum Nutzen der Gesellschaft optimiert wird.

Ziel

Generative information retrieval is an emerging paradigm that replaces the traditional index-then-retrieve pipeline by encoding all information about a document collection in the parameters of a model. The retrieval task is then formalized as a sequence-to-sequence learning problem, making it possible to optimize the system end-to-end. This enables optimization towards a broad range of goals, not just short-term utility ones but also broader long-term objectives, such as fairness and diversity.

Trustworthiness is a prerequisite for the development, deployment, and use of AI-based systems. With UNITE I propose a technical agenda to understand how we can build warranted trust in generative information retrieval while reaping the benefits of the potential this paradigm promises for optimizing for goals beyond short-term utility.

My methodological innovations will be based on advancing the foundations of generative information retrieval and a synthesis of generative information retrieval with reinforcement learning, capturing the sequential and interactive nature of retrieval, thus offering a principled way to deal with long-term goals. These advances will be pursued along three lines where generative information retrieval needs to uphold verifiable guarantees: accuracy, including well-defined and explained contexts of usage; reliability, including exhibiting parity with respect to sensitive attributes; and resilience to distributional shifts and adversarial examples. I will also study ways to probe generative information retrieval methods to aid explainability, reproducibility, and safety. We will demonstrate the utility of our new methodologies on tasks of great societal value: news search and recommendation, and information retrieval for climate impact.

While adventurous, UNITE has great algorithmic significance. It may lead to a fundamental re-assessment of how the field conceptualizes, evaluates and optimizes the success of information retrieval methods.

Wissenschaftliches Gebiet (EuroSciVoc)

Dieses Projekt wurde noch nicht bei EuroSciVoc klassifiziert.
Schlagen Sie die Wissenschaftsbereiche vor, die Ihrer Einschätzung nach besonders relevant sind, und helfen Sie uns, unseren Klassifizierungsdienst zu verbessern.

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-ERC - HORIZON ERC Grants

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2024-ADG

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

UNIVERSITEIT VAN AMSTERDAM
Netto-EU-Beitrag
€ 2 868 930,00
Gesamtkosten
Keine Daten

Begünstigte (1)