Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Towards an Artificial Cognitive Science

Description du projet

Une modélisation informatique pour comprendre le comportement des agents artificiels

Nous devons impérativement améliorer notre compréhension de la manière dont les agents artificiels apprennent, raisonnent et prennent des décisions. Dans cette optique, le projet TACOS, financé par le CER, se propose d’utiliser les outils de la psychologie cognitive pour améliorer le comportement des agents artificiels opaques. Plus précisément, le projet se concentrera sur les modèles de fondation et les grands réseaux neuronaux qui contiennent des milliards de paramètres. Il fera appel à des paradigmes psychologiques pour étudier ces modèles et évaluer leur comportement par le biais de la modélisation informatique. L’équipe affinera en outre leur comportement à l’aide de techniques de thérapie cognitive. Le projet s’est fixé pour objectif de développer des agents transparents et semblables aux humains tout en favorisant un domaine de recherche interdisciplinaire qui fait le lien entre la psychologie cognitive et la recherche sur l’IA.

Objectif

With the advent of capable artificial agents comes the urgency to improve our understanding of how they learn, reason, and decide. This proposal aims to shape a new field of artificial cognitive science in which tools from cognitive psychology are used to understand and improve the behavior of the notoriously opaque artificial agents to which we increasingly delegate autonomy and authority. We will focus on the newly-emerged, disruptive, and increasingly powerful foundation models, huge neural networks with billion of parameters that are trained on hundreds of billions of words, and study them using tools from cognitive psychology. We will subject these models to experimental paradigms from the psychological literature and analyze their trial-by-trial behavior using detailed computational modeling. Psychological paradigms have been engineered to uncover precisely the mechanisms that underpin behavior. We will use cognitive psychology to study and improve prompt engineering, i.e. the design of textual inputs to these models that lead to a desired behavior. Afterward, we will build large cognitive benchmarks to assess foundation models' learning, decision-making, and reasoning abilities in both the pure language and the combined language and vision domains. Finally, we will attempt to improve these models' behavior using cognitive therapy. This proposal will help to create transparent and human-like agents and define an innovative and interdisciplinary research field in which cognitive psychologists and artificial intelligence researchers jointly examine and improve intelligent systems.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2023-STG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

HELMHOLTZ ZENTRUM MUENCHEN DEUTSCHES FORSCHUNGSZENTRUM FUER GESUNDHEIT UND UMWELT GMBH
Contribution nette de l'UE
€ 1 496 000,00
Coût total
€ 1 496 000,00

Bénéficiaires (1)