Ecological Language: A multimodal approach to language and the brain

Informations projet

ECOLANG

N° de convention de subvention: 743035

DOI

10.3030/743035

Projet clôturé

Date de signature de la CE 4 Octobre 2017

Date de début 1 Janvier 2018

Date de fin 30 Juin 2024

Financé au titre de

• EXCELLENT SCIENCE - European Research Council (ERC)

Coût total

€ 2 243 584,00

Contribution de l’UE

€ 2 243 584,00

Coordonné par

UNIVERSITY COLLEGE LONDON
United Kingdom

CORDIS fournit des liens vers les livrables publics et les publications des projets HORIZON.

Les liens vers les livrables et les publications des projets du 7e PC, ainsi que les liens vers certains types de résultats spécifiques tels que les jeux de données et les logiciels, sont récupérés dynamiquement sur OpenAIRE .

Publications

Conference proceedings (10)

The impact of speakers' multimodal behaviours on adults' learning of semantic information: A corpus-based investigation.

Auteurs: Christopher Edwards, Francesco Cabiddu, Harriet Hill-Payne, Ed Donnellan, Yan Gu, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 46, 2024
Éditeur: Cognitive Science Society

The impact of caregivers' multimodal behaviours on children’s word learning: A corpus-based investigation.

Auteurs: Ed Donnellan, Antonia Jordan-Barros, Niki Theofilogiannakou, Gwen Brekelmans, Margherita Murgiano, Yasamin Motamedi, Beata Grzyb, Yan Gu, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 45, 2023
Éditeur: Cognitive Science Society

Child-directed speech: the impact of variations in speaking-rate on word learning

Auteurs: Jinyu Shi, Yan Gu, Beata Grzyb, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 42, 2020
Éditeur: Cognitive Science Society

Timing relationships between representational gestures and speech: A corpus based investigation

Auteurs: Ed Donnellan, Emir Levent Özder, Hillarie Man, Beata Grzyb, Yan Gu, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 44, 2022
Éditeur: Cognitive Science Society

Are words equally surprising in audio and audio-visual comprehension?

Auteurs: Pranava Madhyastha,Ye Zhang, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 45, 2023
Éditeur: Cognitive Science Society
DOI: 10.48550/arxiv.2307.07277

Onomatopoeia, gestures, actions and words:How do caregivers use multimodal cues in their communication to children?

Auteurs: Gabriella Vigliocco, Yasamin Motamedi, Margherita Murgiano, Elizabeth Wonnacott, Chloe Marshall, Pamela Perniss
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 41, 2019
Éditeur: Cognitive Science Soceity

What Predicts Adult Word Learning in Naturalistic Interactions? A Corpus Study

Auteurs: Francesco Cabiddu, Christopher Edwards, Harriet Hill-Payne, Ed Donnellan, Yan Gu, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 46, 2024
Éditeur: Cognitive Science Society

How Speech and Representational Gestures Align in Child-Directed Language: a Corpus-based Study

Auteurs: Yumeng Wang, Ed Donnellan, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 45, 2023
Éditeur: Cognitive Science Society

Electrophysiological signatures of second language multimodal comprehension

Auteurs: Ye Zhang, Rong Ding, Diego Frassinelli, Jyrki Tuomainen, Sebastian Klavinskis-Whiting, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 43, 2021
Éditeur: Cognitive Science Society

The impact of child-directed language on children’s lexical development

Auteurs: Shiyu Dong, Yan Gu, Gabriella Vigliocco
Publié dans: Proceedings of the Annual Meeting of the Cognitive Science Society, Numéro 43, 2021
Éditeur: Cognitive Science Society

Peer reviewed articles (22)

Social interaction is a catalyst for adult human learning in online contexts

Auteurs: Sara De Felice, Gabriella Vigliocco, Antonia F. de C. Hamilton
Publié dans: Current Biology, Numéro 31, 2023, Page(s) 4853-4859.e3, ISSN 0960-9822
Éditeur: Cell Press
DOI: 10.1016/j.cub.2021.08.045

The ECOLANG Multimodal Corpus of adult-child and adult-adult Language

Auteurs: Yan Gu, Ed Donnellan, Beata Grzyb, Gwen Brekelmans, Margherita Murgiano, Ricarda Brieke, Pamela Perniss, Gabriella Vigliocco
Publié dans: Scientific Data, Numéro 12, 2025, ISSN 2052-4463
Éditeur: Nature
DOI: 10.1038/s41597-025-04405-1

Communicative efficiency in multimodal language directed at children and adults.

Auteurs: Beata Grzyb, Stefan L. Frank, Gabriella Vigliocco
Publié dans: Journal of Experimental Psychology: General, Numéro 153, 2024, Page(s) 1904-1919, ISSN 0096-3445
Éditeur: American Psychological Association
DOI: 10.1037/xge0001588

Language development beyond the here‐and‐now: Iconicity and displacement in child‐directed communication

Auteurs: Yasamin Motamedi, Margherita Murgiano, Beata Grzyb, Yan Gu, Viktor Kewenig, Ricarda Brieke, Ed Donnellan, Chloe Marshall, Elizabeth Wonnacott, Pamela Perniss, Gabriella Vigliocco
Publié dans: Child Development, Numéro bimonthly, 2024, ISSN 0009-3920
Éditeur: Blackwell Publishing Inc.
DOI: 10.1111/cdev.14099

The role of iconic gestures and mouth movements in face-to-face communication

Auteurs: Anna Krason, Rebecca Fenton, Rosemary Varley, Gabriella Vigliocco
Publié dans: Psychonomic Bulletin & Review, Numéro 29, 2022, Page(s) 600-612, ISSN 1069-9384
Éditeur: Psychonomic Society Inc.
DOI: 10.3758/s13423-021-02009-5

Understanding discourse in face-to-face settings: The impact of multimodal cues and listening conditions (in press)

Auteurs: Anna Krason, Rosemary Varley, Gabriella Vigliocco
Publié dans: Journal of Experimental Psychology: Learning, Memory, and Cognition, 2024, ISSN 0278-7393
Éditeur: American Psychological Association

Ecological Brain: Reframing the Study of Human Behaviour and Cognition (in press)

Auteurs: Gabriella Vigliocco, Laura Convertino, Sara De Felice, Lara Gregorians, Viktor Kewenig, Marie A. E. Mueller, Sebastijan Veselic, Mirco Musolesi, Andrew Hudson-Smith, Nick Tyler, Eirini Flouri, and Hugo Spiers
Publié dans: Royal Society Open Science, 2024, ISSN 2054-5703
Éditeur: Royal Society Open Science

Learning <i>from</i> others is good, <i>with</i> others is better: the role of social interaction in human acquisition of new knowledge

Auteurs: Sara De Felice, Antonia F. de C. Hamilton, Marta Ponari, Gabriella Vigliocco
Publié dans: Philosophical Transactions of the Royal Society B: Biological Sciences, Numéro 378, 2024, ISSN 0962-8436
Éditeur: Royal Society of London
DOI: 10.1098/rstb.2021.0357

I don’t see what you’re saying: The maluma/takete effect does not depend on the visual appearance of phonemes as they are articulated

Auteurs: David M. Sidhu, Gabriella Vigliocco
Publié dans: Psychonomic Bulletin &amp; Review, Numéro 30, 2023, Page(s) 1521-1529, ISSN 1069-9384
Éditeur: Psychonomic Society Inc.
DOI: 10.3758/s13423-022-02224-8

Multimodal comprehension in left hemisphere stroke patients

Auteurs: Gabriella Vigliocco, Anna Krason, Harrison Stoll, Alessandro Monti, Laurel J. Buxbaum
Publié dans: Cortex, Numéro 133, 2021, Page(s) 309-327, ISSN 0010-9452
Éditeur: Masson Publishing
DOI: 10.1016/j.cortex.2020.09.025

Iconicity emerges and is maintained in spoken language.

Auteurs: David Vinson, Matthew Jones, David M. Sidhu, Alex Lau-Zhu, Julio Santiago, Gabriella Vigliocco
Publié dans: Journal of Experimental Psychology: General, Numéro 150, 2024, Page(s) 2293-2308, ISSN 0096-3445
Éditeur: American Psychological Association
DOI: 10.1037/xge0001024

Mouth and facial informativeness norms for 2276 English words

Auteurs: Anna Krason, Ye Zhang, Hillarie Man, Gabriella Vigliocco
Publié dans: Behavior Research Methods, Numéro 56, 2024, Page(s) 4786-4801, ISSN 1554-3528
Éditeur: Springer Publishing
DOI: 10.3758/s13428-023-02216-z

More than words: word predictability, prosody, gesture and mouth movements in natural language comprehension

Auteurs: Ye Zhang, Diego Frassinelli, Jyrki Tuomainen, Jeremy I. Skipper, Gabriella Vigliocco
Publié dans: Proceedings of the Royal Society B: Biological Sciences, Numéro 288/1955, 2021, Page(s) 20210500, ISSN 0962-8452
Éditeur: Royal Society of London
DOI: 10.1098/rspb.2021.0500

The role of multimodal cues in second language comprehension

Auteurs: Ye Zhang, Rong Ding, Diego Frassinelli, Jyrki Tuomainen, Sebastian Klavinskis-Whiting, Gabriella Vigliocco
Publié dans: Scientific Reports, Numéro 13, 2023, ISSN 2045-2322
Éditeur: Nature Publishing Group
DOI: 10.1038/s41598-023-47643-2

When Abstract Becomes Concrete: Naturalistic Encoding of Concepts in the Brain

Auteurs: Viktor Kewenig, Gabriella Vigliocco, Jeremy I Skipper
Publié dans: eLife, 2024, ISSN 2050-084X
Éditeur: eLife Sciences Publications

Consensus Paper: Situated and Embodied Language Acquisition

Auteurs: Lorraine D. Reggin, Ligia E. Gómez Franco, Oleksandr V. Horchak, David Labrecque, Nadia Lana, Laura Rio, Gabriella Vigliocco
Publié dans: Journal of Cognition, Numéro 6, 2023, ISSN 2514-4820
Éditeur: Ubiquity Press
DOI: 10.5334/joc.308

Situating Language in the Real-World: Authors’ Reply to Commentaries

Auteurs: Margherita Murgiano, Yasamin Motamedi, Gabriella Vigliocco
Publié dans: Journal of Cognition, Numéro 4/1, 2021, ISSN 2514-4820
Éditeur: Ubiquity
DOI: 10.5334/joc.181

Effects of Iconicity in Recognition Memory

Auteurs: David M. Sidhu, Nareg Khachatoorian, Gabriella Vigliocco
Publié dans: Cognitive Science, Numéro 47, 2024, ISSN 0364-0213
Éditeur: Lawrence Erlbaum Associates Inc.
DOI: 10.1111/cogs.13382

Situating Language in the Real-World: The Role of Multimodal Iconicity and Indexicality

Auteurs: Margherita Murgiano, Yasamin Motamedi, Gabriella Vigliocco
Publié dans: Journal of Cognition, Numéro 4/1, 2021, ISSN 2514-4820
Éditeur: Ubiquity
DOI: 10.5334/joc.113

Benefit of visual speech information for word comprehension in post-stroke aphasia

Auteurs: Anna Krason, Gabriella Vigliocco, Marja-Liisa Mailend, Harrison Stoll, Rosemary Varley, Laurel J. Buxbaum
Publié dans: Cortex, Numéro 165, 2023, Page(s) 86-100, ISSN 0010-9452
Éditeur: Masson Publishing
DOI: 10.1016/j.cortex.2023.04.011

What We Mean When We Say Semantic: A multidiscilpinary semantic glossary (in press)

Auteurs: Jamie Reilly, Cory Shain, Valentina Borghesani, Philipp Kuhnke, Gabriella Vigliocco, Jonathan E. Peelle, Bradford Mahon, Laurel Buxbaum, Asifa Majid, Marc Brysbaert, Anna M. Borghi, Simon De Deyne, Guy Dove, Liuba Papeo, Penny M. Pexman, David Poeppel, Gary Lupyan, Paulo Boggio, Gregory Hickock, Laura Gwilliams, Leonardo Fernandino, Daniel Mirman, Evangelia G. Chrysikou, Chaleece Sandberg, Sebasti
Publié dans: Psychonomic Bulletin and Review, 2024, ISSN 1069-9384
Éditeur: Psychonomic Society Inc.
DOI: 10.31234/osf.io/xrnb2

Prosodic modulations in child‐directed language and their impact on word learning

Auteurs: Jinyu Shi, Yan Gu, Gabriella Vigliocco
Publié dans: Developmental Science, Numéro 26, 2023, ISSN 1363-755X
Éditeur: Blackwell Publishing Inc.
DOI: 10.1111/desc.13357

Other (1)

Explain with, rather than explain to: How explainees shape their own learning (in press)

Auteurs: Josephine Beryl Fisher, Katharina Rohlfing, Ed Donnellan, Angela Grimminger, Yan Gu, Gabriella Vigliocco
Publié dans: Interaction Studies, 2024
Éditeur: John Benjamins Publishing Company

Book chapters (1)

Beyond robotic speech: mutual benefits to cognitive psychology and artificial intelligence from the study of multimodal communication.

Auteurs: Grzyb, Beata; Vigliocco, Gabriella
Publié dans: Human-Like Machine Intelligence, 2020
Éditeur: Oxford University Press
DOI: 10.31234/osf.io/h5dxy