Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français français
CORDIS - Résultats de la recherche de l’UE
CORDIS
Contenu archivé le 2024-06-18

Synchronous Linguistic and Visual Processing

Objectif

When humans process language, they rarely do so in isolation. Linguistic input often occurs synchronously with visual input, e.g. in everyday activities such as attending a lecture or following directions on a map. The visual context constrains the interpretation of the linguistic input, and vice versa, making processing more efficient and less ambiguous. Given the ubiquity of synchronous linguistic and visual processing, it is surprising that there is only a sparse experimental literature that deals with this topic, while virtually no computational models exist that capture the synchronous interpretation process. We propose an experimental research program that will investigate key features of synchronous processing by tracking participants' eye movements when they view a naturalistic scene and listen to a speech stimulus at the same time. The aim is to understand synchronous processing better by studying the interaction of saliency and ambiguity, and the role of incrementality, object context, and task factors. These experimental results will feed into a series of computational models that predict the eye-movement patterns that humans exhibit when they view a scene and listen to speech at the same time. The key modeling idea is to treat synchronous processing as an alignment problem, for which a rich literature exists in computational linguistics. Building on this literature, we will develop models that incrementally construct aligned linguistic and visual representations, and that can be evaluated against eye-tracking data.

Champ scientifique (EuroSciVoc)

CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.

Vous devez vous identifier ou vous inscrire pour utiliser cette fonction

Mots‑clés

Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).

Programme(s)

Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.

Thème(s)

Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.

Appel à propositions

Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.

ERC-2007-StG
Voir d’autres projets de cet appel

Régime de financement

Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.

ERC-SG - ERC Starting Grant

Institution d’accueil

THE UNIVERSITY OF EDINBURGH
Contribution de l’UE
€ 1 126 000,00
Adresse
OLD COLLEGE, SOUTH BRIDGE
EH8 9YL Edinburgh
Royaume-Uni

Voir sur la carte

Région
Scotland Eastern Scotland Edinburgh
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total

Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.

Aucune donnée

Bénéficiaires (1)

Mon livret 0 0