Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Brain Dynamics of Audiovisual Dialogue

Descrizione del progetto

Sintonizzazione sul decodificatore del dialogo del cervello

La conversazione umana è veloce, complessa e ricca di segnali visivi e vocali. Ma nonostante tale complessità, il nostro cervello riesce a tenere il passo. Sebbene alcuni studi abbiano suggerito che gli esseri umani usino sia il linguaggio sia gli indizi visivi per prevedere cosa diranno le altre persone, la maggior parte delle ricerche si è basata su stimoli isolati e semplificati. Con il sostegno del programma di azioni Marie Skłodowska-Curie, il progetto BrainDial sfrutterà conversazioni reali registrate e tecniche di immaginografia cerebrale (MEG) all’avanguardia per studiare il modo in cui il nostro cervello elabora il dialogo audiovisivo naturale in tempo reale. Combinando modelli linguistici, tracciamento dei movimenti del corpo e modellazione neurale, il progetto intende scoprire come gli esseri umani anticipano le parole prima che vengano pronunciate, per chiarire come il cervello interpreta il linguaggio quotidiano.

Obiettivo

Language comprehension naturally occurs in face-to-face dialogues. During dialogue interactions, language unfolds rapidly, yet comprehension remains possible because listeners anticipate what speakers will say next. Studies using short sentences and isolated visual cues (e.g. lip movements, hand gestures) suggest that these predictions rely on both linguistic content and the speaker’s visual behavior. However, little is known about how the brain processes multiple co-occurring audiovisual cues during natural dialogue, the primary context for language use. Moreover, while dialogues are rich in pragmatic and prosodic audiovisual cues that support comprehension, their influence on word-level predictions remains unclear. The complexity of dialogues has traditionally made it challenging to study their neural basis, but recent methodological advances now allow for the naturalistic investigation of continuous speech processing. For the firts time, BrainDial (Brain Dynamics of Audiovisual Dialogue) will apply these advances in an ecologically valid audiovisual dialogue setting. We will record natural dialogues and analyze their acoustic, linguistic, and visual cues. These annotated recordings will be used in a magnetoencephalography (MEG) study to reveal the fine-grained temporal dynamics and corticoanatomical details of how the brain generates linguisitc audiovisual predictions in real time. By integrating multimodal dialogue corpus annotations, computational linguisitc metrics derived from large-language models (LLMs), body-motion tracking, MEG, and neural computational modelling, BrainDial aims to provide groundbreaking insights into the neural mechanisms of dialogue comprehension.

Campo scientifico (EuroSciVoc)

Parole chiave

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) HORIZON-MSCA-2024-PF-01

Vedi tutti i progetti finanziati nell’ambito del bando

Coordinatore

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Contributo netto dell'UE
€ 217 076,16
Costo totale
Nessun dato