Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Counterfactuals in Minds and Machines

Description du projet

Améliorer l’aide à la décision grâce au raisonnement contrefactuel

Les êtres humains excellent dans le raisonnement contrefactuel, imaginant des passés alternatifs pour évaluer ce qui aurait pu être mieux ou pire. Cette capacité joue un rôle clé dans l’apprentissage à partir d’expériences limitées et dans l’amélioration de la prise de décision. Cependant, malgré le rôle croissant de l’apprentissage automatique dans l’aide à la décision dans des domaines tels que la médecine et l’éducation, la plupart des algorithmes ont eu du mal à intégrer ce type de raisonnement. Dans cette optique, le projet COUNTERFACT, financé par le CER, vise à combler cette lacune en développant des modèles d’apprentissage automatique capables de raisonnement contrefactuel. Ces modèles amélioreront les systèmes d’aide à la décision, la prise de décision humaine et réduiront les exigences en matière de calcul et de données, tout en aidant les individus à tirer des leçons de leurs choix antérieurs pour obtenir de meilleurs résultats.

Objectif

Reasoning about what might have been, about alternatives to our own pasts, is a landmark of human intelligence. Such type of reasoning, called counterfactual reasoning, is often evaluative, specifying alternatives that are in some sense better or worse than our past reality, and has been shown to play a significant role in the ability that humans have to learn from limited past experience and improve their decision making skills over time.

In recent years, there has been an increasing excitement on the potential of machine learning models and algorithms to support human decision making in a variety of high-stakes domains such as medicine, education or science. However, these models and algorithms have been traditionally unable to perform, nor benefit from, counterfactual reasoning. In this project, our goal is to bridge this gap.

We will develop machine learning models and algorithms for automated decision support that are able to perform and benefit from counterfactual reasoning in multiple ways. For example, they will perform counterfactual reasoning about human behavior to anticipate how humans incorporate algorithmic advice into their decisions. This will enable a new generation of decision support systems that can only increase and never decrease the average quality of human decisions. Moreover, they will use the structural similarities and shared properties across different counterfactual decision making scenarios to significantly reduce their computational and data requirements. In addition, these models and algorithms will also help humans learn from their own past decisions by identifying alternative decisions that would have led to better outcomes. Finally, we will perform large-scale human subject studies with both laypersons and experts to evaluate their effectiveness in a wide variety of decision making tasks.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2024-COG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Contribution nette de l'UE
€ 1 997 500,00
Coût total
€ 1 997 500,00

Bénéficiaires (1)