COnversational BRAins

Informations projet

COBRA

N° de convention de subvention: 859588

DOI

10.3030/859588

Projet clôturé

Date de signature de la CE 4 Septembre 2019

Date de début 1 Février 2020

Date de fin 31 Juillet 2024

Financé au titre de

• EXCELLENT SCIENCE - Marie Skłodowska-Curie Actions

Coût total

€ 4 009 380,29

Contribution de l’UE

€ 4 009 380,29

Coordonné par

UNIVERSITE D'AIX MARSEILLE
France

CORDIS fournit des liens vers les livrables publics et les publications des projets HORIZON.

Les liens vers les livrables et les publications des projets du 7e PC, ainsi que les liens vers certains types de résultats spécifiques tels que les jeux de données et les logiciels, sont récupérés dynamiquement sur OpenAIRE .

Livrables

Documents, reports (8)

Student Industry Day

Student Industry Day (M46)

Public understanding event

Public understanding event M21

Second Summer School

Second Summer School E5 UBER + FUB (M34)

First Summer School

First Summer School E3 M21

Closing Event

Closing Event E7 Furhat + ReadSpeaker (M46)

First Winter School

First Winter School E2 M16

Third Winter School

Third Winter School E6 (M40)

Second Winter School

Second Winter School E4 (M28)

Publications

Conference proceedings (39)

Unsupervised Auditory and Semantic Entrainment Models with Deep Neural Networks

Auteurs: Jay Kejriwal, Štefan Beňuš, Lina M. Rojas-Barahona
Publié dans: INTERSPEECH 2023, Numéro 2023, 2024, Page(s) 2628-2632
Éditeur: ISCA
DOI: 10.21437/interspeech.2023-1929

Speech Adaptation and Physiological Responses: A Study on f0 and Skin Temperature

Auteurs: Thomaz Offrede, Christine Mooshammer, Alessandro D'Ausilio, Susanne Fuchs
Publié dans: Speech Prosody, Numéro 2024, 2024
Éditeur: Speech Prosody

Intonation Control for Neural Text-to-Speech Synthesis with Polynomial Models of F0

Auteurs: Niamh Corkey, Johannah O'Mahony, Simon King
Publié dans: Proc. INTERSPEECH 2023, Numéro 2023, 2023, Page(s) 2014-2015
Éditeur: ISCA

Relationship between auditory and semantic entrainment using Deep Neural Networks (DNN)

Auteurs: Jay Kejriwal, Štefan Beňuš
Publié dans: INTERSPEECH 2023, Numéro 2023, 2024, Page(s) 2623-2627
Éditeur: ISCA
DOI: 10.21437/interspeech.2023-1947

Speech Entrainment and Emotion

Auteurs: Jay Kejriwal, Štefan Beňuš
Publié dans: 2023 14th IEEE International Conference on Cognitive Infocommunications (CogInfoCom), Numéro 2023, 2024, Page(s) 99-104
Éditeur: IEEE
DOI: 10.1109/coginfocom59411.2023.10397502

Investigating the Perception Production Link through Perceptual Adaptation and Phonetic Convergence.

Auteurs: Lena-Marie Huttner, Noel Nguyen, Martin J. Pickering
Publié dans: Proc INTERSPEECH 2023, Numéro 2023, 2023, Page(s) 3103-3107
Éditeur: ISCA

A Hierarchical Predictive Processing Approach to Modelling Prosody

Auteurs: Juraj Šimko, Adaeze Adigwe, Antti Suni, Martti Vainio
Publié dans: Speech Prosody 2022, Numéro 2022, 2024
Éditeur: ISCA
DOI: 10.21437/speechprosody.2022-86

Investigating the relationship between prosodic entrainment and interaction style

Auteurs: Joanna Kruyt, Lena-Marie Huttner, Johannah O'Mahony
Publié dans: Proceedings of the 20th International Congress of Phonetic Sciences, Numéro 2023, 2023, Page(s) 3492-3496, ISBN 978-80-908114-2-3
Éditeur: GUARANT International spol. s r.o.

Hierarchical Intonation Modelling for Speech Synthesis using Legendre Polynomial Coefficients

Auteurs: Johannah O'Mahony, Niamh Corkey, Catherine Lai, Esther Klabbers, Simon King
Publié dans: Speech Prosody 2024, Numéro 2024, 2024
Éditeur: ISCA
DOI: 10.21437/speechprosody.2024-208

Lexical entrainment on target words during task-oriented interaction in children with and without autism spectrum disorder

Auteurs: Kruyt, J., Polónyiová, K., Ostatníková, D., Beňuš, Š.
Publié dans: Proceedings of the 27th Workshop on the Semantics and Pragmatics of Dialogue, Numéro August 2023, 2023, Page(s) 6-14
Éditeur: Proceedings of the 27th Workshop on the Semantics and Pragmatics of Dialogue

Language Proficiency and F0 Entrainment: A Study of L2 English Imitation in Italian, French, and Slovak Speakers

Auteurs: Zheng Yuan, Štefan Beňuš, Alessandro D'Ausilio
Publié dans: Speech Prosody, 2024
Éditeur: International Speech Communication Association

What does BERT learn about prosody?

Auteurs: Kakouros, Sofoklis; O'Mahony, Johannah
Publié dans: in R Skarnitzl & J Volín (eds) , Proceedings of the 20th International Congress of Phonetic Sciences (ICPhS), Numéro 19, 2023, Page(s) 1454-1458, ISBN 978-80-908114-2-4
Éditeur: GUARANT International spol. s r.o.
DOI: 10.48550/arxiv.2304.12706

Do Humans Converge Phonetically When Talking to a Robot?

Auteurs: Thomaz Offrede, Chinmaya Mishra, Gabriel Skantze, Susanne Fuchs, Christine Mooshammer
Publié dans: International Congress of Phonetic Sciences (ICPhS), Numéro 2023, 2023, Page(s) 3507--3511, ISBN 978-80-908114-2-3
Éditeur: GUARANT International spol. s r.o.

Prosodic and lexical entrainment in adults with and without schizophrenia

Auteurs: Joanna Kruyt, Štefan Beňuš, Catherine Faget, Christophe Lançon, Maud Champagne-Lavau
Publié dans: Speech Prosody 2022, 2024, Page(s) 125-129
Éditeur: ISCA
DOI: 10.21437/speechprosody.2022-26

The ART of Conversation: Measuring Phonetic Convergence and Deliberate Imitation in L2-Speech with a Siamese RNN

Auteurs: Zheng Yuan, Aldo Pastore, Dorina de Jong, Hao Xu, Luciano Fadiga, Alessandro D'Ausilio
Publié dans: INTERSPEECH 2023, Numéro August 2023, 2024, Page(s) 132--136
Éditeur: ISCA
DOI: 10.21437/interspeech.2023-2283

Annotation of Communicative Functions of Short Feedback Tokens in Switchboard

Auteurs: Figueroa, Carol; Adigwe, Adaeze; Ochs, Magalie; Skantze, Gabriel
Publié dans: Proceedings of the 13th Conference on Language Resources and Evaluation, Jun 2022, Marseille, France, Numéro 10, 2022, Page(s) 1849–1859
Éditeur: Proceedings of the 13th Conference on Language Resources and Envaluation (LREC 2022)

Strategies for developing a Conversational Speech Dataset for Text-To-Speech Synthesis

Auteurs: Adaeze O. Adigwe, Esther Klabbers
Publié dans: Interspeech 2022, Numéro 2022, 2024
Éditeur: ISCA
DOI: 10.21437/interspeech.2022-10802

Synthesis after a couple PINTs: Investigating the Role of Pause-Internal Phonetic Particles in Speech Synthesis and Perception

Auteurs: Mikey Elmers, Johannah O'Mahony, Éva Székely
Publié dans: INTERSPEECH 2023, Numéro 2023, 2024, Page(s) 4843-4847
Éditeur: ISCA
DOI: 10.21437/interspeech.2023-2178

Stress detection using non-semantic speech representation

Auteurs: Jay Kejriwal, Stefan Benus, Marian Trnka
Publié dans: 2022 32nd International Conference Radioelektronika (RADIOELEKTRONIKA), Numéro 2022, 2022, Page(s) 1-5
Éditeur: IEEE
DOI: 10.1109/radioelektronika54537.2022.9764916

The effects of prediction in conversational alignment

Auteurs: Kerr, E., Strijkers, K.
Publié dans: Proceedings of the 44th Annual Conference of the Cognitive Science Society, Numéro Volume 44, 2022
Éditeur: Proceedings of the Annual Meeting of the Cognitive Science Society

Comparing acoustic and textual representations of previous linguistic context for improving Text-to-Speech

Auteurs: Pilar Oplustil-Gallegos, Johannah O'Mahony, Simon King
Publié dans: 11th ISCA Speech Synthesis Workshop (SSW 11), Numéro 2021, 2024, Page(s) 205-210
Éditeur: ISCA
DOI: 10.21437/ssw.2021-36

Relationship between speech entrainment and emotion

Auteurs: Jay Kejriwal
Publié dans: 2022 10th International Conference on Affective Computing and Intelligent Interaction Workshops and Demos (ACIIW), Numéro 2022, 2024, Page(s) 1-4
Éditeur: IEEE
DOI: 10.1109/aciiw57231.2022.10086027

An analysis on the effects of speaker embedding choice in non auto-regressive TTS

Auteurs: Adriana Stan, Johannah O'Mahony
Publié dans: 12th ISCA Speech Synthesis Workshop (SSW2023), Numéro 2023, 2024, Page(s) 134-138
Éditeur: ISCA
DOI: 10.21437/ssw.2023-21

The role of production in perceptual learning

Auteurs: Lena-Marie Huttner, Noel Nguyen, Martin J. Pickering
Publié dans: Proceedings of the 20th International Congress of Phonetic Sciences, Numéro 2023, 2023, Page(s) 496-500
Éditeur: GUARANT International spol. s r.o.

Prosodic Alignment in Different Conversational Feedback Functions

Auteurs: Figueroa, Carol; Beňuš, Štefan; Skantze, Gabriel
Publié dans: 20th International Congress of Phonetic Sciences (ICPhS), Aug 2023, Prague, Czech Republic, Numéro 1, 2023
Éditeur: 20th International Congress of Phonetic Sciences (ICPHS)

ART: The Alternating Reading Task Corpus for Speech Entrainment and Imitation

Auteurs: Zheng Yuan, Dorina de Jong, Ruitao Feng, Štefan Beňuš, Noël Nguyen, Róbert Sabo, Luciano Fadiga, Alessandro D’Ausilio
Publié dans: Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024), Numéro May 2024, 2024, Page(s) 1548–1562
Éditeur: ELRA and ICCL

Breathing features and their impact on speech perception of COVID-19 patients

Auteurs: Xiaoming Jiang, Lixin Yu, Leinuo Dai, Jinyang Chen, Zheng Yuan
Publié dans: Speech Prosody, 2024
Éditeur: International Speech Communication Association

The effect of (non-)native language and task complexity on speech entrainment

Auteurs: Mareková, L., Kruyt, J., Beňuš, Š.
Publié dans: International Congress of Phonetic Sciences (ICPhS), 2022, Page(s) 1548-1552
Éditeur: GUARANT International spol. s r.o.

The ADAIO System at the BEA-2023 Shared Task: Shared Task Generating AI Teacher Responses in Educational Dialogues

Auteurs: Adaeze Adigwe, Zheng Yuan
Publié dans: Proceedings of the 18th Workshop on Innovative Use of NLP for Building Educational Applications (BEA 2023), Numéro July 2023, 2023, Page(s) 796–804
Éditeur: Association for Computational Linguistics
DOI: 10.18653/v1/2023.bea-1.65

Classification of Feedback Functions in Spoken Dialog Using Large Language Models and Prosodic Features

Auteurs: Carol Figueroa, Magalie Ochs, Gabriel Skantze
Publié dans: Proceedings of the 27th Workshop on the Semantics and Pragmatics of Dialogue, Numéro August, 16–17, 2023, 2023
Éditeur: Proceedings of the 27th Workshop on the Semantics and Pragmatics of Dialogue

Synthesising turn-taking cues using natural conversational data

Auteurs: Johannah O'Mahony, Catherine Lai, Simon King
Publié dans: 12th ISCA Speech Synthesis Workshop (SSW2023), Numéro 2023, 2024, Page(s) 75-80
Éditeur: ISCA
DOI: 10.21437/ssw.2023-12

The Badalona Corpus An Audio, Video and Neuro-Physiological Conversational Dataset.

Auteurs: Blache P., Antoine S., de Jong D., Huttner L.-M., Kerr E., et al.
Publié dans: Proceedings of the Thirteenth Language Resources and Evaluation Conference, 2022, Page(s) 5170–5177
Éditeur: European Language Resources Association

The Slovak Autistic and Non-Autistic Child Speech Corpus: Task-Oriented Child-Adult Interactions

Auteurs: Kruyt, J., Polónyiová, K.,Sabo, R., Ostatníková, D., Beňuš, Š.
Publié dans: Proc LREC-COLING 2024, 2024, Page(s) 16094–16099
Éditeur: ELRA Language Resource Association

Factors Affecting the Evaluation of Synthetic Speech in Context

Auteurs: Johannah O'Mahony, Pilar Oplustil-Gallegos, Catherine Lai, Simon King
Publié dans: 11th ISCA Speech Synthesis Workshop (SSW 11), Numéro 2021, 2024, Page(s) 148-153
Éditeur: ISCA
DOI: 10.21437/ssw.2021-26

Data-augmented cross-lingual synthesis in a teacher-student framework

Auteurs: Marcel de Korte, Jaebok Kim, Aki Kunikoshi, Adaeze Adigwe, Esther Klabbers
Publié dans: Proc. INTERSPEECH 2022, Numéro 2022, 2022
Éditeur: ISCA

Combining conversational speech with read speech to improve prosody in Text-to-Speech synthesis

Auteurs: Johannah O'Mahony, Catherine Lai, Simon King
Publié dans: Interspeech 2022, Numéro 2022, 2024, Page(s) 3388-3392
Éditeur: ISCA
DOI: 10.21437/interspeech.2022-10167

Global and local prosodic entrainment in a task-oriented interaction in autistic and neurotypical children

Auteurs: Kruyt, J., Polónyiová, K., Ostatníková, D., Beňuš, Š.
Publié dans: Proceedings of the First Workshop on Connecting Multiple Disciplines to AI Techniques in Interaction-centric Autism Research and Diagnosis (ICARD 2023), 2022, Page(s) 1-11
Éditeur: Association for Computational Linguistics

Knowing Where to Look: A Planning-based Architecture to Automate the Gaze Behavior of Social Robots

Auteurs: Chinmaya Mishra, Gabriel Skantze
Publié dans: 2022 31st IEEE International Conference on Robot and Human Interactive Communication (RO-MAN), Numéro 29 August 2022 - 02 September 2022, 2022, Page(s) 1201-1208, ISSN 1944-9437
Éditeur: IEEE
DOI: 10.1109/ro-man53752.2022.9900740

Speech imitation skills predict automatic phonetic convergence: a GMM-UBM study on L2

Auteurs: Dorina de Jong, Aldo Pastore, Noël Nguyen, Alessandro D'Ausilio
Publié dans: Interspeech 2022, 2024
Éditeur: ISCA
DOI: 10.21437/interspeech.2022-10684

Peer reviewed articles (15)

Real-time emotion generation in human-robot dialogue using large language models

Auteurs: Chinmaya Mishra, Rinus Verdonschot, Peter Hagoort, Gabriel Skantze
Publié dans: Frontiers in Robotics and AI, Numéro 10, 2023, ISSN 2296-9144
Éditeur: Frontiers
DOI: 10.3389/frobt.2023.1271610

Multi‐speaker experimental designs: Methodological considerations

Auteurs: Tom Offrede; Christine Mooshammer; Susanne Fuchs
Publié dans: Language and Linguistics Compass, Numéro Monthly, 2021, Page(s) 1-24, ISSN 1749-818X
Éditeur: Blackwell
DOI: 10.1111/lnc3.12443

Brain signatures predict communicative function of speech production in interaction

Auteurs: Boux, I., Tomasello, R., Grisoni, L. and Pulvermüller, F.
Publié dans: Cortex, 2021, ISSN 0010-9452
Éditeur: Masson Publishing
DOI: 10.1016/j.cortex.2020.11.008

Prosodic entrainment in individuals with autism spectrum disorder

Auteurs: Joanna Kruyt, Štefan Beňuš
Publié dans: Topics in Linguistics, Numéro volume 22, number 2, 2021, Page(s) 47-61, ISSN 2199-6504
Éditeur: Sciendo (De Gruyter Poland)
DOI: 10.2478/topling-2021-0010

Breathing and Speech Adaptation: Do Speakers Adapt Toward a Confederate Talking Under Physical Effort?

Auteurs: Tom Offrede, Christine Mooshammer, Susanne Fuchs
Publié dans: Journal of Speech, Language, and Hearing Research, Numéro 2024, 2024, Page(s) 1-17, ISSN 1092-4388
Éditeur: American Speech-Language-Hearing Association
DOI: 10.1044/2023_jslhr-23-00113

Neologisms are epidemic: Modeling the life cycle of neologisms in China 2008-2016

Auteurs: Menghan Jiang, Xiang Ying Shen, Kathleen Ahrens, Chu-Ren Huang
Publié dans: PLOS ONE, Numéro 16, 2021, Page(s) e0245984, ISSN 1932-6203
Éditeur: Public Library of Science
DOI: 10.1371/journal.pone.0245984

Listeners' convergence towards an artificial agent in a joint phoneme categorization task

Auteurs: Noël Nguyen, Leonardo Lancia, Lena Huttner, Jean-Luc Schwartz, Julien Diard
Publié dans: Glossa Psycholinguistics, Numéro 3, 2024, ISSN 2767-0279
Éditeur: Glossa Psycholinguistics
DOI: 10.5070/g6011165

The Conversational Discourse Unit: Identification and Its Role in Conversational Turn-taking Management

Auteurs: Junfei Hu, Liesbeth Degand
Publié dans: Dialogue & Discourse, Numéro 14 (2), 2023, ISSN 2152-9620
Éditeur: University of Illinois Libraries
DOI: 10.5210/dad.2023.203

Feedback quality and divided attention: exploring commentaries on alignment in task-oriented dialogue

Auteurs: Ludivine Crible, Greta Gandolfi, Martin J. Pickering
Publié dans: Language and Cognition, Numéro 2024, 2024, Page(s) 1-29, ISSN 1866-9808
Éditeur: Cambridge University Press
DOI: 10.1017/langcog.2023.65

Measuring Prosodic Entrainment in Conversation: A Review and Comparison of Different Methods

Auteurs: Joanna Kruyt, Dorina de Jong, Alessandro D'Ausilio, Štefan Beňuš
Publié dans: Journal of Speech, Language, and Hearing Research, Numéro 66, 2023, Page(s) 4280-4314, ISSN 1092-4388
Éditeur: American Speech-Language-Hearing Association
DOI: 10.1044/2023_jslhr-23-00094

Neurophysiological evidence for rapid processing of verbal and gestural information in understanding communicative actions

Auteurs: Tomasello, R., Kim, C., Dreyer, F. R., Grisoni, L. and Pulvermüller, F.
Publié dans: Scientific Reports, 2019, ISSN 2045-2322
Éditeur: Nature Publishing Group
DOI: 10.1038/s41598-019-52158-w

Ideography in interaction

Auteurs: Greta Gandolfi, Martin J. Pickering
Publié dans: Behavioral and Brain Sciences, Numéro 46, 2023, Page(s) e243, ISSN 0140-525X
Éditeur: Cambridge University Press
DOI: 10.1017/s0140525x23000572

Does a robot’s gaze aversion affect human gaze aversion?

Auteurs: Chinmaya Mishra, Tom Offrede, Susanne Fuchs, Christine Mooshammer, Gabriel Skantze
Publié dans: Frontiers in Robotics and AI, Numéro 10, 2023, ISSN 2296-9144
Éditeur: Frontiers
DOI: 10.3389/frobt.2023.1127626

Mechanisms of alignment: shared control, social cognition and metacognition

Auteurs: Greta Gandolfi, Martin J. Pickering, Simon Garrod
Publié dans: Philosophical Transactions of the Royal Society B: Biological Sciences, Numéro 378, 2024, Page(s) 20210362, ISSN 0962-8436
Éditeur: Royal Society of London
DOI: 10.1098/rstb.2021.0362

Instantaneous Neural Processing of Communicative Functions Conveyed by Speech Prosody

Auteurs: Tomasello, R., Grisoni, L., Boux, I., Sammler, D. and Pulvermüller, F.
Publié dans: Cerebral Cortex, 2022, ISSN 1047-3211
Éditeur: Oxford University Press
DOI: 10.1093/cercor/bhab522

Other (1)

Predicting meaning in the dyad.

Auteurs: Emilia Kerr, Benjamin Morillon, Kristof Strijkers
Publié dans: Center for Open Science, 2024
Éditeur: Center for Open Science
DOI: 10.31234/osf.io/8cf2m

Book chapters (1)

Lexical Access in Speech Production

Auteurs: Emilia Kerr, Bissera Ivanova, Kristof Strijkers
Publié dans: Language Production, Numéro 1st Edition, 2023, Page(s) 32-65, ISSN 9781-003145790
Éditeur: Routledge
DOI: 10.4324/9781003145790-3