Counterfactuals in Minds and Machines

Opis projektu

Rozwój wspomagania decyzji dzięki rozumowaniu kontrfaktycznemu

Ludzie są świetni w rozumowaniu kontrfaktycznym, polegającym na wyobrażaniu sobie alternatywnej przeszłości w celu oceny tego, co mogło być lepsze lub gorsze. Umiejętność ta odgrywa kluczową rolę w uczeniu się na podstawie ograniczonych doświadczeń i usprawnianiu procesu podejmowania decyzji. Jednak pomimo rosnącej roli uczenia maszynowego we wspieraniu decyzji w dziedzinach takich jak medycyna i edukacja, większość algorytmów nie radzi sobie z wykorzystaniem tego typu rozumowania. W związku z tym finansowany przez ERBN projekt COUNTERFACT ma na celu wypełnienie tej luki poprzez opracowanie modeli uczenia maszynowego zdolnych do przeprowadzania rozumowania kontrfaktycznego. Modele te usprawnią systemy wspomagania decyzji, poprawią podejmowanie decyzji przez ludzi oraz zmniejszą zapotrzebowanie na obliczenia i dane, jednocześnie pomagając ludziom uczyć się na podstawie wcześniejszych wyborów, aby uzyskać lepsze wyniki.

Cel

Reasoning about what might have been, about alternatives to our own pasts, is a landmark of human intelligence. Such type of reasoning, called counterfactual reasoning, is often evaluative, specifying alternatives that are in some sense better or worse than our past reality, and has been shown to play a significant role in the ability that humans have to learn from limited past experience and improve their decision making skills over time.

In recent years, there has been an increasing excitement on the potential of machine learning models and algorithms to support human decision making in a variety of high-stakes domains such as medicine, education or science. However, these models and algorithms have been traditionally unable to perform, nor benefit from, counterfactual reasoning. In this project, our goal is to bridge this gap.

We will develop machine learning models and algorithms for automated decision support that are able to perform and benefit from counterfactual reasoning in multiple ways. For example, they will perform counterfactual reasoning about human behavior to anticipate how humans incorporate algorithmic advice into their decisions. This will enable a new generation of decision support systems that can only increase and never decrease the average quality of human decisions. Moreover, they will use the structural similarities and shared properties across different counterfactual decision making scenarios to significantly reduce their computational and data requirements. In addition, these models and algorithms will also help humans learn from their own past decisions by identifying alternative decisions that would have led to better outcomes. Finally, we will perform large-scale human subject studies with both laypersons and experts to evaluate their effectiveness in a wide variety of decision making tasks.