Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Brain Dynamics of Audiovisual Dialogue

Description du projet

Se connecter au décodeur de dialogue du cerveau

La conversation humaine est rapide, complexe et pleine de signaux visuels et vocaux. Peu importe la complexité, notre cerveau peut suivre. Bien que des études aient suggéré que nous utilisons à la fois le langage et des indices visuels pour prédire ce que les autres diront, la plupart des recherches se sont appuyées sur des stimuli isolés et simplifiés. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet BrainDial utilisera de véritables conversations enregistrées et une imagerie cérébrale de pointe (MEG) pour étudier comment notre cerveau traite les dialogues audiovisuels naturels en temps réel. En combinant des modèles linguistiques, le suivi des mouvements du corps et la modélisation neuronale, le projet cherche à découvrir comment nous anticipons les mots avant qu’ils ne soient prononcés, offrant ainsi une vision plus claire de la façon dont le cerveau donne un sens au discours quotidien.

Objectif

Language comprehension naturally occurs in face-to-face dialogues. During dialogue interactions, language unfolds rapidly, yet comprehension remains possible because listeners anticipate what speakers will say next. Studies using short sentences and isolated visual cues (e.g. lip movements, hand gestures) suggest that these predictions rely on both linguistic content and the speaker’s visual behavior. However, little is known about how the brain processes multiple co-occurring audiovisual cues during natural dialogue, the primary context for language use. Moreover, while dialogues are rich in pragmatic and prosodic audiovisual cues that support comprehension, their influence on word-level predictions remains unclear. The complexity of dialogues has traditionally made it challenging to study their neural basis, but recent methodological advances now allow for the naturalistic investigation of continuous speech processing. For the firts time, BrainDial (Brain Dynamics of Audiovisual Dialogue) will apply these advances in an ecologically valid audiovisual dialogue setting. We will record natural dialogues and analyze their acoustic, linguistic, and visual cues. These annotated recordings will be used in a magnetoencephalography (MEG) study to reveal the fine-grained temporal dynamics and corticoanatomical details of how the brain generates linguisitc audiovisual predictions in real time. By integrating multimodal dialogue corpus annotations, computational linguisitc metrics derived from large-language models (LLMs), body-motion tracking, MEG, and neural computational modelling, BrainDial aims to provide groundbreaking insights into the neural mechanisms of dialogue comprehension.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2024-PF-01

Voir tous les projets financés au titre de cet appel

Coordinateur

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Contribution nette de l'UE
€ 217 076,16
Coût total
Aucune donnée