Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Towards an Artificial Cognitive Science

Opis projektu

Modelowanie obliczeniowe umożliwia zrozumienie zachowania sztucznych agentów

Rozwój wiedzy na temat procesów nauki, rozumowania i podejmowania decyzji przez sztucznych agentów jest kluczowy. Dlatego zespół finansowanego ze środków Europejskiej Rady ds. Badań Naukowych projektu TACOS ma na celu wykorzystanie narzędzi psychologii poznawczej do poprawy zachowania nieprzejrzystych sztucznych agentów. Badacze skupią się w szczególności na modelach fundamentalnych i dużych sieciach neuronowych obejmujących miliardy parametrów. Wykorzystają także paradygmaty psychologiczne do badania tych modeli i oceny ich zachowania poprzez modelowanie obliczeniowe. Ponadto zespół udoskonali zachowanie dzięki użyciu technik terapii poznawczej. Projekt ma na celu opracowanie przejrzystych i podobnych do ludzkich agentów, a także wspieranie interdyscyplinarnych badań łączących psychologię poznawczą i badania nad sztuczną inteligencją.

Cel

With the advent of capable artificial agents comes the urgency to improve our understanding of how they learn, reason, and decide. This proposal aims to shape a new field of artificial cognitive science in which tools from cognitive psychology are used to understand and improve the behavior of the notoriously opaque artificial agents to which we increasingly delegate autonomy and authority. We will focus on the newly-emerged, disruptive, and increasingly powerful foundation models, huge neural networks with billion of parameters that are trained on hundreds of billions of words, and study them using tools from cognitive psychology. We will subject these models to experimental paradigms from the psychological literature and analyze their trial-by-trial behavior using detailed computational modeling. Psychological paradigms have been engineered to uncover precisely the mechanisms that underpin behavior. We will use cognitive psychology to study and improve prompt engineering, i.e. the design of textual inputs to these models that lead to a desired behavior. Afterward, we will build large cognitive benchmarks to assess foundation models' learning, decision-making, and reasoning abilities in both the pure language and the combined language and vision domains. Finally, we will attempt to improve these models' behavior using cognitive therapy. This proposal will help to create transparent and human-like agents and define an innovative and interdisciplinary research field in which cognitive psychologists and artificial intelligence researchers jointly examine and improve intelligent systems.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC - HORIZON ERC Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2023-STG

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

HELMHOLTZ ZENTRUM MUENCHEN DEUTSCHES FORSCHUNGSZENTRUM FUER GESUNDHEIT UND UMWELT GMBH
Wkład UE netto
€ 1 496 000,00
Koszt całkowity
€ 1 496 000,00

Beneficjenci (1)