Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Towards an Artificial Cognitive Science

Descripción del proyecto

Modelización computacional para comprender el comportamiento de los agentes artificiales

Resulta esencial mejorar nuestra comprensión de cómo aprenden, razonan y toman decisiones los agentes artificiales. Con esta idea en mente, el equipo del proyecto TACOS, financiado por el Consejo Europeo de Investigación, pretende utilizar herramientas de la psicología cognitiva para mejorar el comportamiento de agentes artificiales opacos. En concreto, el equipo del proyecto se centrará en modelos de cimientos y grandes redes neuronales con miles de millones de parámetros. Utilizará paradigmas psicológicos para investigar estos modelos y evaluar su comportamiento mediante modelización computacional. Además, el equipo perfeccionará el comportamiento a través de técnicas de terapia cognitiva. El equipo del proyecto pretende desarrollar agentes transparentes y similares a los humanos, fomentando al mismo tiempo un campo de investigación interdisciplinar que tienda puentes entre la psicología cognitiva y la investigación en inteligencia artificial.

Objetivo

With the advent of capable artificial agents comes the urgency to improve our understanding of how they learn, reason, and decide. This proposal aims to shape a new field of artificial cognitive science in which tools from cognitive psychology are used to understand and improve the behavior of the notoriously opaque artificial agents to which we increasingly delegate autonomy and authority. We will focus on the newly-emerged, disruptive, and increasingly powerful foundation models, huge neural networks with billion of parameters that are trained on hundreds of billions of words, and study them using tools from cognitive psychology. We will subject these models to experimental paradigms from the psychological literature and analyze their trial-by-trial behavior using detailed computational modeling. Psychological paradigms have been engineered to uncover precisely the mechanisms that underpin behavior. We will use cognitive psychology to study and improve prompt engineering, i.e. the design of textual inputs to these models that lead to a desired behavior. Afterward, we will build large cognitive benchmarks to assess foundation models' learning, decision-making, and reasoning abilities in both the pure language and the combined language and vision domains. Finally, we will attempt to improve these models' behavior using cognitive therapy. This proposal will help to create transparent and human-like agents and define an innovative and interdisciplinary research field in which cognitive psychologists and artificial intelligence researchers jointly examine and improve intelligent systems.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-ERC - HORIZON ERC Grants

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) ERC-2023-STG

Ver todos los proyectos financiados en el marco de esta convocatoria

Institución de acogida

HELMHOLTZ ZENTRUM MUENCHEN DEUTSCHES FORSCHUNGSZENTRUM FUER GESUNDHEIT UND UMWELT GMBH
Aportación neta de la UEn
€ 1 496 000,00
Dirección
INGOLSTADTER LANDSTRASSE 1
85764 Neuherberg
Alemania
Región
Bayern Oberbayern München, Landkreis
Tipo de actividad
Research Organisations
Enlaces
Coste total
€ 1 496 000,00

Beneficiarios (1)