Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Brain Dynamics of Audiovisual Dialogue

Descripción del proyecto

Sintonizar el decodificador de diálogo del encéfalo

La conversación humana es rápida, compleja y está llena de señales visuales y vocales. No importa lo complejo que sea, nuestro encéfalo puede seguir el ritmo. Si bien en los estudios se ha sugerido que utilizamos tanto el lenguaje como las señales visuales para predecir lo que dirán los demás, la mayoría de las investigaciones se han basado en estímulos aislados y simplificados. Con el apoyo de las Acciones Marie Skłodowska-Curie, el equipo del proyecto BrainDial utilizará conversaciones reales grabadas e imágenes cerebrales de última generación (MEG) para estudiar cómo nuestros encéfalos procesan el diálogo audiovisual natural en tiempo real. Al combinar modelos de lenguaje, seguimiento del movimiento corporal y modelado neuronal, en el proyecto se busca descubrir cómo anticipamos las palabras antes de que sean pronunciadas, lo que ofrecerá una visión más clara de cómo el encéfalo da sentido al habla cotidiana.

Objetivo

Language comprehension naturally occurs in face-to-face dialogues. During dialogue interactions, language unfolds rapidly, yet comprehension remains possible because listeners anticipate what speakers will say next. Studies using short sentences and isolated visual cues (e.g. lip movements, hand gestures) suggest that these predictions rely on both linguistic content and the speaker’s visual behavior. However, little is known about how the brain processes multiple co-occurring audiovisual cues during natural dialogue, the primary context for language use. Moreover, while dialogues are rich in pragmatic and prosodic audiovisual cues that support comprehension, their influence on word-level predictions remains unclear. The complexity of dialogues has traditionally made it challenging to study their neural basis, but recent methodological advances now allow for the naturalistic investigation of continuous speech processing. For the firts time, BrainDial (Brain Dynamics of Audiovisual Dialogue) will apply these advances in an ecologically valid audiovisual dialogue setting. We will record natural dialogues and analyze their acoustic, linguistic, and visual cues. These annotated recordings will be used in a magnetoencephalography (MEG) study to reveal the fine-grained temporal dynamics and corticoanatomical details of how the brain generates linguisitc audiovisual predictions in real time. By integrating multimodal dialogue corpus annotations, computational linguisitc metrics derived from large-language models (LLMs), body-motion tracking, MEG, and neural computational modelling, BrainDial aims to provide groundbreaking insights into the neural mechanisms of dialogue comprehension.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-MSCA-2024-PF-01

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

MAX-PLANCK-GESELLSCHAFT ZUR FORDERUNG DER WISSENSCHAFTEN EV
Aportación neta de la UEn
€ 217 076,16
Coste total
Sin datos