Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Brain Dynamics of Audiovisual Dialogue

Opis projektu

Dostrajanie się do dekodera dialogu w mózgu

Rozmowy ludzi są szybkie, złożone i pełne sygnałów wizualnych i dźwiękowych. Niezależnie od stopnia skomplikowania nasze mózgi zawsze za nimi nadążają. Jak wskazują badania, wykorzystujemy zarówno język, jak i sygnały wizualne do przewidywania tego, co powiedzą inni, ale większość nauki opiera się na odizolowanych, uproszczonych bodźcach. Projekt BrainDial, realizowany przy wsparciu programu działania „Maria Skłodowska-Curie”, wykorzysta prawdziwe nagrane rozmowy i najnowocześniejsze techniki obrazowania mózgu (MEG) do zbadania, w jaki sposób nasze mózgi przetwarzają naturalny audiowizualny dialog w czasie rzeczywistym. Zespół projektu łączy modele językowe, śledzenie ruchów ciała i modelowanie neuronalne, aby próbować odkryć, w jaki sposób przewidujemy słowa, zanim jeszcze zostaną wypowiedziane, oferując jaśniejszy obraz tego, w jaki sposób ludzki mózg doszukuje się sensów w codziennej mowie.

Cel

Language comprehension naturally occurs in face-to-face dialogues. During dialogue interactions, language unfolds rapidly, yet comprehension remains possible because listeners anticipate what speakers will say next. Studies using short sentences and isolated visual cues (e.g. lip movements, hand gestures) suggest that these predictions rely on both linguistic content and the speaker’s visual behavior. However, little is known about how the brain processes multiple co-occurring audiovisual cues during natural dialogue, the primary context for language use. Moreover, while dialogues are rich in pragmatic and prosodic audiovisual cues that support comprehension, their influence on word-level predictions remains unclear. The complexity of dialogues has traditionally made it challenging to study their neural basis, but recent methodological advances now allow for the naturalistic investigation of continuous speech processing. For the firts time, BrainDial (Brain Dynamics of Audiovisual Dialogue) will apply these advances in an ecologically valid audiovisual dialogue setting. We will record natural dialogues and analyze their acoustic, linguistic, and visual cues. These annotated recordings will be used in a magnetoencephalography (MEG) study to reveal the fine-grained temporal dynamics and corticoanatomical details of how the brain generates linguisitc audiovisual predictions in real time. By integrating multimodal dialogue corpus annotations, computational linguisitc metrics derived from large-language models (LLMs), body-motion tracking, MEG, and neural computational modelling, BrainDial aims to provide groundbreaking insights into the neural mechanisms of dialogue comprehension.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2024-PF-01

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Wkład UE netto
€ 217 076,16
Koszt całkowity
Brak danych