Descrizione del progetto
Modellizzazione computazionale per comprendere il comportamento degli agenti artificiali
Migliorare la nostra comprensione di come gli agenti artificiali apprendono, ragionano e prendono decisioni è essenziale. In quest’ottica, il progetto TACOS, finanziato dal CER, si propone di utilizzare gli strumenti della psicologia cognitiva per migliorare il comportamento degli agenti artificiali opachi. In particolare, il progetto si concentrerà sui modelli di fondazione e sulle grandi reti neurali contenenti miliardi di parametri. Utilizzerà paradigmi psicologici per studiare tali modelli e valutarne il comportamento attraverso la modellizzazione computazionale. Il team perfezionerà inoltre il comportamento utilizzando tecniche di terapia cognitiva. Il progetto mira a sviluppare agenti trasparenti e simili a quelli umani, promuovendo al contempo un campo di ricerca interdisciplinare che colleghi la psicologia cognitiva e la ricerca sull’intelligenza artificiale.
Obiettivo
With the advent of capable artificial agents comes the urgency to improve our understanding of how they learn, reason, and decide. This proposal aims to shape a new field of artificial cognitive science in which tools from cognitive psychology are used to understand and improve the behavior of the notoriously opaque artificial agents to which we increasingly delegate autonomy and authority. We will focus on the newly-emerged, disruptive, and increasingly powerful foundation models, huge neural networks with billion of parameters that are trained on hundreds of billions of words, and study them using tools from cognitive psychology. We will subject these models to experimental paradigms from the psychological literature and analyze their trial-by-trial behavior using detailed computational modeling. Psychological paradigms have been engineered to uncover precisely the mechanisms that underpin behavior. We will use cognitive psychology to study and improve prompt engineering, i.e. the design of textual inputs to these models that lead to a desired behavior. Afterward, we will build large cognitive benchmarks to assess foundation models' learning, decision-making, and reasoning abilities in both the pure language and the combined language and vision domains. Finally, we will attempt to improve these models' behavior using cognitive therapy. This proposal will help to create transparent and human-like agents and define an innovative and interdisciplinary research field in which cognitive psychologists and artificial intelligence researchers jointly examine and improve intelligent systems.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Siamo spiacenti… si è verificato un errore inatteso durante l’esecuzione.
È necessario essere autenticati. La sessione potrebbe essere scaduta.
Grazie per il tuo feedback. Riceverai presto un'e-mail di conferma dell'invio. Se hai scelto di ricevere una notifica sullo stato della segnalazione, sarai contattato anche quando lo stato della segnalazione cambierà.
Parole chiave
Programma(i)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Argomento(i)
Invito a presentare proposte
(si apre in una nuova finestra) ERC-2023-STG
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-ERC -Istituzione ospitante
85764 Neuherberg
Germania