Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Brain Dynamics of Audiovisual Dialogue

Projektbeschreibung

Den Dialogdecoder des Gehirns entschlüsseln

Menschliche Gespräche laufen schnell, komplex und voller visueller und stimmlicher Signale ab. Unser Gehirn kann auch noch so komplexen Konversationen folgen. Studien deuten zwar darauf hin, dass wir sowohl sprachliche als auch visuelle Hinweise verwenden, um vorherzusagen, was andere sagen werden, doch die meisten Untersuchungen stützten sich bislang auf isolierte, vereinfachte Reize. Das mit Unterstützung durch das Marie-Skłodowska-Curie-Maßnahmenprogramm geförderte Projekt BrainDial wird anhand von aufgezeichneten Gesprächen aus dem realen Leben und modernster Hirnbildgebungsverfahren (MEG) untersuchen, wie unser Gehirn natürliche audiovisuelle Dialoge in Echtzeit verarbeitet. Durch die Kombination von Sprachmodellen, Körperbewegungs-Tracking und neuronaler Modellierung möchte das Projekt ermitteln, wie wir Wörter antizipieren, bevor sie ausgesprochen werden – und somit einen klareren Einblick in die Interpretation der alltäglichen Sprache durch das Gehirn erlangen.

Ziel

Language comprehension naturally occurs in face-to-face dialogues. During dialogue interactions, language unfolds rapidly, yet comprehension remains possible because listeners anticipate what speakers will say next. Studies using short sentences and isolated visual cues (e.g. lip movements, hand gestures) suggest that these predictions rely on both linguistic content and the speaker’s visual behavior. However, little is known about how the brain processes multiple co-occurring audiovisual cues during natural dialogue, the primary context for language use. Moreover, while dialogues are rich in pragmatic and prosodic audiovisual cues that support comprehension, their influence on word-level predictions remains unclear. The complexity of dialogues has traditionally made it challenging to study their neural basis, but recent methodological advances now allow for the naturalistic investigation of continuous speech processing. For the firts time, BrainDial (Brain Dynamics of Audiovisual Dialogue) will apply these advances in an ecologically valid audiovisual dialogue setting. We will record natural dialogues and analyze their acoustic, linguistic, and visual cues. These annotated recordings will be used in a magnetoencephalography (MEG) study to reveal the fine-grained temporal dynamics and corticoanatomical details of how the brain generates linguisitc audiovisual predictions in real time. By integrating multimodal dialogue corpus annotations, computational linguisitc metrics derived from large-language models (LLMs), body-motion tracking, MEG, and neural computational modelling, BrainDial aims to provide groundbreaking insights into the neural mechanisms of dialogue comprehension.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-MSCA-2024-PF-01

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Netto-EU-Beitrag
€ 217 076,16
Adresse
HOFGARTENSTRASSE 8
80539 MUNCHEN
Deutschland
Region
Berlin Berlin Berlin
Aktivitätstyp
Research Organisations
Links
Gesamtkosten
Keine Daten