Description du projet
Comprendre les décisions humaines et des solutions d’IA plus explicables
En cette ère où l’intelligence artificielle (IA) a réalisé des exploits remarquables, un défi de taille persiste: l’interprétabilité. Si les systèmes d’IA sont souvent plus performants que les humains dans diverses tâches, leurs processus de décision n’en sont pas moins hermétiques. En revanche, les humains peuvent exprimer leurs stratégies de prise de décision, bien qu’avec une précision variable, ce qui est essentiel au partage des connaissances au sein de la société. Avec le soutien du programme Actions Marie Skłodowska-Curie, le projet REPORT-IT explorera la manière dont les humains génèrent des connaissances explicables au cours de l’apprentissage par l’expérience. Les expériences du projet modélisent des environnements d’apprentissage complexes, en suivant le développement de la métacognition, de l’affect et des connaissances explicables au fil du temps. Plus précisément, le projet entend déterminer si ces systèmes peuvent reproduire des modèles de métacognition et d’affect semblables à ceux de l’humain.
Objectif
Current artificial intelligence (AI) surpasses human-level performance in a vast range of tasks. However, its decisional processes are opaque, referred to as the AI interpretability problem. Humans, on the other hand, can verbally describe their decisional processes and strategies. The accuracy of these reports varies, especially in complex environments. Yet, people often come up with reasonably accurate explanations for their decisions, thereby allowing knowledge transfer in society. However, the mechanisms of accurate verbal report generation remain unclear. Therefore, the main research objective of the REPORT-IT project is to study how humans generate adequate reportable knowledge during learning through experience. Inspired by the recent findings from research on metacognition (i.e. insight into one's own cognition) and cognition-emotion interaction, I will test the novel hypothesis that metacognition and learning-related affect support the emergence of reportable knowledge. In two experiments modeling complex learning environments (implicit category learning and probabilistic reward learning tasks), I will track the development of metacognition, affect, and reportable knowledge over time. This will allow me to evaluate the temporal relationships between these components and predict the emergence of reportable knowledge. In the final step of the project, I will study the behavior of deep neural networks (DNNs) in the exact same tasks and test whether DNNs can generate temporal patterns of metacognition and affect, as observed in humans. Thereby, the REPORT-IT project combines my expertise in implicit learning and affective science with expertise in neuroscience of consciousness and DNNs at the host institute (University of Amsterdam). This way, REPORT-IT will contribute to understanding how people generate reportable knowledge and, at the same time, provide new approaches for explainable AI.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Nous sommes désolés... Une erreur inattendue s’est produite.
Vous devez être authentifié. Votre session a peut-être expiré.
Merci pour votre retour d'information. Vous recevrez bientôt un courriel confirmant la soumission. Si vous avez choisi d'être informé de l'état de la déclaration, vous serez également contacté lorsque celui-ci évoluera.
Mots‑clés
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2022-PF-01
Voir tous les projets financés au titre de cet appelCoordinateur
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
1012WX Amsterdam
Pays-Bas
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.