Projektbeschreibung
Vorantreiben der Entscheidungsunterstützung durch kontrafaktisches Denken
Der Mensch ist ein Meister des kontrafaktischen Denkens. Er stellt sich alternative Vergangenheiten vor, um zu beurteilen, was besser oder schlechter hätte verlaufen können. Diese Fähigkeit spielt eine Schlüsselrolle beim Lernen aus begrenzten Erfahrungswerten und bei der Verbesserung der Entscheidungsfindung. Trotz der wachsenden Rolle des maschinellen Lernens für die Entscheidungsunterstützung in Bereichen wie Medizin und Bildung bereitet es den meisten Algorithmen Schwierigkeiten, diese Art der Entscheidungsfindung zu integrieren. Vor diesem Hintergrund möchte das ERC-finanzierte Projekt COUNTERFACT diese Lücke schließen, indem maschinelle Lernmodelle entwickelt werden, die zu kontrafaktischem Denken fähig sind. Diese Modelle werden die Systeme zur Entscheidungsunterstützung optimieren, die menschliche Entscheidungsfindung verbessern und den Rechen- und Datenaufwand verringern, während sie dem Einzelnen helfen, aus früheren Entscheidungen zu lernen und zu besseren Ergebnissen zu kommen.
Ziel
Reasoning about what might have been, about alternatives to our own pasts, is a landmark of human intelligence. Such type of reasoning, called counterfactual reasoning, is often evaluative, specifying alternatives that are in some sense better or worse than our past reality, and has been shown to play a significant role in the ability that humans have to learn from limited past experience and improve their decision making skills over time.
In recent years, there has been an increasing excitement on the potential of machine learning models and algorithms to support human decision making in a variety of high-stakes domains such as medicine, education or science. However, these models and algorithms have been traditionally unable to perform, nor benefit from, counterfactual reasoning. In this project, our goal is to bridge this gap.
We will develop machine learning models and algorithms for automated decision support that are able to perform and benefit from counterfactual reasoning in multiple ways. For example, they will perform counterfactual reasoning about human behavior to anticipate how humans incorporate algorithmic advice into their decisions. This will enable a new generation of decision support systems that can only increase and never decrease the average quality of human decisions. Moreover, they will use the structural similarities and shared properties across different counterfactual decision making scenarios to significantly reduce their computational and data requirements. In addition, these models and algorithms will also help humans learn from their own past decisions by identifying alternative decisions that would have led to better outcomes. Finally, we will perform large-scale human subject studies with both laypersons and experts to evaluate their effectiveness in a wide variety of decision making tasks.
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2024-COG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC -Gastgebende Einrichtung
80539 Munchen
Deutschland