Projektbeschreibung
Automatische Vorhersage von Fakten
Die wachsende Reichweite des Internets und der Medien sowie einschneidende Ereignisse in jüngster Zeit haben die Anforderung verdeutlicht, Fakten schnell und einfach online zu überprüfen. Leider führen komplizierende Faktoren wie die riesigen Datenmengen dazu, dass selbst eine auf maschinellem Lernen basierende Faktenüberprüfung Schwierigkeiten zeitigt, diese Aufgabe effizient zu erfüllen oder ihren Prozess der Faktenüberprüfung näher zu erläutern. Hier kommt das vom Europäischen Forschungsrat finanzierte Projekt ExplainYourself ins Spiel, das eine erklärbare Faktenüberprüfung bieten wird. Da automatische Methoden zur Faktenüberprüfung oft undurchsichtige tiefe neuronale Netze verwenden, wird das Projekt eine erklärbare Faktenüberprüfung bieten. Die bestehenden Ansätze sind nicht in der Lage, vielfältige Erklärungen zu liefern, die sich an Nutzende mit unterschiedlichem Informationsbedarf richten.
Ziel
ExplainYourself proposes to study explainable automatic fact checking, the task of automatically predicting the veracity of textual claims using machine learning (ML) methods, while also producing explanations about how the model arrived at the prediction. Automatic fact checking methods often use opaque deep neural network models, whose inner workings cannot easily be explained. Especially for complex tasks such as automatic fact checking, this hinders greater adoption, as it is unclear to users when the models' predictions can be trusted. Existing explainable ML methods partly overcome this by reducing the task of explanation generation to highlighting the right rationale. While a good first step, this does not fully explain how a ML model arrived at a prediction. For knowledge intensive natural language understanding (NLU) tasks such as fact checking, a ML model needs to learn complex relationships between the claim, multiple evidence documents, and common sense knowledge in addition to retrieving the right evidence. There is currently no explainability method that aims to illuminate this highly complex process. In addition, existing approaches are unable to produce diverse explanations, geared towards users with different information needs.
ExplainYourself radically departs from existing work in proposing methods for explainable fact checking that more accurately reflect how fact checking models make decisions, and are useful to diverse groups of end users. It is expected that these innovations will apply to explanation generation for other knowledge-intensive NLU tasks, such as question answering or entity linking. To achieve this, ExplainYourself builds on my pioneering work on explainable fact checking as well as my interdisciplinary expertise.
Wissenschaftliches Gebiet
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Finanzierungsplan
ERC - Support for frontier research (ERC)Gastgebende Einrichtung
1165 Kobenhavn
Dänemark