Value-Aware Artificial Intelligence

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Leistungen

Integrative Model of Moral Cognition for AI

White paper bringing state of the art social psychology into the project

Value-aware medical protocols: use case setup

Use case detailed description along with plans on the support to valueaware protocols

Social robots and value-aware AI v1

Report on user studies on perception of value-aware AI, trust and evaluation in complex real world scenarios.

Results of the behavioral testing

Report on the best strategies to support human perception of AI systems as moral agents.

Quantitative measures for Value-Aware AI

Scientific paper proposing and motivating the measures published in high profile journal

Technical report and software components

Technical contributions (available as papers, open source software, documentation, and tutorials) validated in pilot studies.

Detection of markers of moral values in social media

Publication of the research presenting the scientific basis of morality detection and markers of misbehaviour.

Use cases and scenarios

Report on use cases and scenarios eliciting value-laden decisions for robots, design of study protocols.

Draft functional specification of the RGNW Toolbox and Moral Cognition Tool

Reporting on the initial functional specification of the RGNW Toolbox and Moral Cognition Tools

RGNW Toolbox and Moral Cognition Tools v1

Software toolbox and a report describing its release on open platforms as well as its adoption

Moral observatory platform and library

Release of internet platform and software library to visualise moral markers and their dynamics in social media.

Value-aware tools for the management of medical protocols v1

The releases of the components developed for the medical protocols domain.

RGNW Toolbox and Moral Cognition Tools v2

Software toolbox and a report describing its release on open platforms as well as its adoption.

Veröffentlichungen

The role of political devotion in sharing partisan misinformation and resistance to fact-checking.

Autoren: Clara Pretus, Camila Servin-Barthet, Elizabeth A. Harris, William J. Brady, Oscar Vilarroya, Jay J. Van Bavel
Veröffentlicht in: Journal of Experimental Psychology: General, Ausgabe 152, 2024, ISSN 1939-2222
Herausgeber: American Psychological Association (APA)
DOI: 10.1037/XGE0001436

Information Sciences

Autoren: Marc Serramià, Maite López-Sánchez, Stefano Moretti, Juan A. Rodríguez-Aguilar
Veröffentlicht in: Information Sciences Journal, 2023, ISSN 0020-0255
Herausgeber: ELSEVIER
DOI: 10.1016/j.ins.2023.02.063

The Influence of Robot Autonomy on Sense of Control and Trust Towards a Robot

Autoren: Mateusz Woźniak, Davide De Tommaso, Guenther Knoblich, Agnieszka Wykowska
Veröffentlicht in: International Journal of Social Robotics, Ausgabe 18, 2026, ISSN 1875-4791
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1007/S12369-026-01375-1

Knowledge-Based Systems

Autoren: Roger X. Lera-Leri; Enrico Liscio; Filippo Bistaffa; Catholijn M. Jonker; Maite Lopez-Sanchez; Pradeep K. Murukannaiah; Juan A. Rodriguez-Aguilar; Francisco Salas-Molina
Veröffentlicht in: Knowledge-Based Systems, 2024, ISSN 0950-7051
Herausgeber: Elsevier BV
DOI: 10.1016/J.KNOSYS.2024.111453

Evaluating human perception of value-laden decisions made by a humanoid robot

Autoren: Kinga Ciupińska, Hannah Wiedemann, Davide De Tommaso, Agnieszka Wykowska
Veröffentlicht in: AI and Ethics, Ausgabe 5, 2026, ISSN 2730-5953
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1007/S43681-025-00811-8

Scientific Reports

Autoren: Ziggy O'Reilly; Serena Marchesi; Agnieszka Wykowska
Veröffentlicht in: Scientific Reports, 2024, ISSN 2045-2322
Herausgeber: Nature Publishing Group
DOI: 10.31234/OSF.IO/YBCDZ_V2

Causing a robot to display happy but not sad facial expression leads to sensory attenuation

Autoren: Ilkay Ari, Mateusz Woźniak, Davide De Tommaso, Agnieszka Wykowska
Veröffentlicht in: Social Cognitive and Affective Neuroscience, Ausgabe 21, 2026, ISSN 1749-5016
Herausgeber: Oxford University Press (OUP)
DOI: 10.1093/SCAN/NSAG067

Multi-objective reinforcement learning for provably incentivising alignment with value systems

Autoren: Manel Rodriguez-Soto, Roxana Rădulescu, Filippo Bistaffa, Oriol Ricart, Arnau Mayoral-Macau, Maite Lopez-Sanchez, Juan A. Rodriguez-Aguilar, Ann Nowé
Veröffentlicht in: Artificial Intelligence, Ausgabe 351, 2026, ISSN 0004-3702
Herausgeber: Elsevier BV
DOI: 10.1016/J.ARTINT.2025.104460

Encoding Ethics to Compute Value-Aligned Norms

Autoren: Marc Serramia; Manel Rodriguez-Soto; Maite Lopez-Sanchez; Juan A. Rodriguez-Aguilar; Filippo Bistaffa; Paula Boddington; Michael Wooldridge; Carlos Ansotegui
Veröffentlicht in: Minds and Machines, 2023, ISSN 1572-8641
Herausgeber: Springer Nature B.V.
DOI: 10.1007/S11023-023-09649-7

The AI4Citizen pilot: Pipelining AI-based technologies to support school-work alternation programmes

Autoren: Athina Georgara, Raman Kazhamiakin, Ornella Mich, Alessio Palmero Aprosio, Jean-Christoph Pazzaglia, Juan Antonio Rodríguez Aguilar, Carles Sierra
Veröffentlicht in: Applied Intelligence, Ausgabe 53, 2023, ISSN 0924-669X
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1007/S10489-023-04758-3

The AI4Citizen pilot: Pipelining AI-based technologies to support school-work alternation programmes

Combining theory of mind and abductive reasoning in agent-oriented programming

Autoren: Nieves Montes, Michael Luck, Nardine Osman, Odinaldo Rodrigues, Carles Sierra
Veröffentlicht in: Autonomous Agents and Multi-Agent Systems, Ausgabe 37, 2023, ISSN 1387-2532
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1007/S10458-023-09613-W

Is this a violation? Learning and understanding norm violations in online communities

Autoren: Thiago Freitas dos Santos, Nardine Osman, Marco Schorlemmer
Veröffentlicht in: Artificial Intelligence, Ausgabe 327, 2024, ISSN 0004-3702
Herausgeber: Elsevier BV
DOI: 10.1016/J.ARTINT.2023.104058

Non-immersive robot teleoperation does not reliably affect egocentric dishonesty but can influence altruistic dishonesty

Autoren: Mateusz Woźniak, Marina Scattolin, Luca Provenzano, Davide De Tommaso, Salvatore M. Aglioti, Agnieszka Wykowska
Veröffentlicht in: iScience, Ausgabe 29, 2026, ISSN 2589-0042
Herausgeber: Elsevier BV
DOI: 10.1016/J.ISCI.2026.114645

Multi-objective reinforcement learning for designing ethical multi-agent environments.

Autoren: Manel Rodríguez-Soto, Maite López-Sánchez, Juan A. Rodríguez-Aguilar
Veröffentlicht in: Neural Computing and Applications Journal, 2023, ISSN 1433-3058
Herausgeber: Springer-Verlag
DOI: 10.1007/s00521-023-08898-y

International Journal of Social Robotics

Autoren: Qiaoqiao Ren; Tony Belpaeme
Veröffentlicht in: International Journal of Social Robotics, 2024, ISSN 1875-4791
Herausgeber: Springer Verlag
DOI: 10.48550/ARXIV.2411.12549

A multi-scenario approach to continuously learn and understand norm violations

Autoren: Freitas dos Santos, Thiago; Osman, Nardine; Schorlemmer, Marco
Veröffentlicht in: Autonomous Agents and Multi-Agent Systems, 2023, ISSN 1573-7454
Herausgeber: Springer Science+Business Media, LLC, part of Springer Nature
DOI: 10.1007/S10458-023-09619-4

Socio-Economic Planning Sciences

Autoren: Francisco Salas-Molina, Filippo Bistaffa, Juan A. Rodríguez-Aguilar
Veröffentlicht in: Socio-Economic Planning Sciences, 2023, ISSN 0038-0121
Herausgeber: Elsevier
DOI: 10.1016/j.seps.2023.101694

Information Sciences

Autoren: Serramia, Marc; Lopez-Sanchez, Maite; Moretti, Stefano; Rodriguez-Aguilar, Juan A.
Veröffentlicht in: Information Sciences, 2023, ISSN 0020-0255
Herausgeber: Elsevier BV
DOI: 10.1016/J.INS.2023.02.063

Emotion

Autoren: Clara Pretus; Jillian K. Swencionis; Yifei Pei; Luis Marcos-Vidal; Ingrid J. Haas; William A. Cunningham; Dominic J. Packer; Jay J. Van Bavel
Veröffentlicht in: Emotion, 2023, ISSN 1528-3542
Herausgeber: American Psychological Association
DOI: 10.31234/OSF.IO/ESBY8

A Conversational Agent That Learns to be Aligned With the Moral Value of Respect

Autoren: Eric Roselló-Marín, Inmaculada Rodríguez, Maite Lopez-Sanchez, Manel Rodríguez-Soto, Juan Antonio Rodríguez-Aguilar
Veröffentlicht in: The European Journal on Artificial Intelligence, Ausgabe 38, 2026, ISSN 3050-4554
Herausgeber: SAGE Publications
DOI: 10.1177/30504554241311168

Optimising team dynamics: The role of AI in enhancing challenge-based learning participation experience and outcomes

Autoren: Athina Georgara, Marc Santolini, Olga Kokshagina, Camila Justine Jacinta Haux, Desmé Jacobs, Gloria Biwott, Marcela Correa, Carles Sierra, Jose Luis Fernandez-Marquez, Juan A. Rodriguez-Aguilar
Veröffentlicht in: Computers and Education: Artificial Intelligence, Ausgabe 8, 2026, ISSN 2666-920X
Herausgeber: Elsevier BV
DOI: 10.1016/J.CAEAI.2025.100388

Philosophical Transactions of the Royal Society B: Biological Sciences

Autoren: Clara Pretus; Ali Javeed; Diána R Hughes; Kobi Hackenburg; Manos Tsakiris; Oscar Vilarroya; Jay Joseph Van Bavel
Veröffentlicht in: Philosophical Transactions of the Royal Society B: Biological Sciences, 2022, ISSN 0962-8436
Herausgeber: Royal Society of London
DOI: 10.1098/RSTB.2023.0040

Understanding the sense of self through robotics

Autoren: Tony J. Prescott, Kai Vogeley, Agnieszka Wykowska
Veröffentlicht in: Science Robotics, Ausgabe 9, 2024, ISSN 2470-9476
Herausgeber: American Association for the Advancement of Science (AAAS)
DOI: 10.1126/SCIROBOTICS.ADN2733

Stability of value perception: minimal influence of framing on moral attributions to a humanoid robot

Autoren: Serena Marchesi, Kinga Ciupińska, Davide De Tommaso, Agnieszka Wykowska
Veröffentlicht in: Scientific Reports, Ausgabe 16, 2026, ISSN 2045-2322
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1038/S41598-025-28831-8

If they disagree, will you conform?

Autoren: Giulia Pusceddu, Giulio Antonio Abbo, Francesco Rea, Tony Belpaeme, Alessandra Sciutti
Veröffentlicht in: Interaction Studies. Social Behaviour and Communication in Biological and Artificial Systems, Interaction Studies / Social Behaviour and Communication in Biological and Artificial Systems, Interaction Studies, Ausgabe 26, 2026, ISSN 1572-0373
Herausgeber: John Benjamins Publishing Company
DOI: 10.1075/IS.25030.PUS

Concerns and Values in Human-Robot Interactions: A Focus on Social Robotics

Autoren: Giulio Antonio Abbo, Tony Belpaeme, Micol Spitale
Veröffentlicht in: International Journal of Social Robotics, Ausgabe 18, 2026, ISSN 1875-4791
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1007/S12369-025-01351-1

Online news ecosystem dynamics: supply, demand, diffusion, and the role of disinformation

Autoren: Pietro Gravino; Giulio Prevedello; Emanuele Brugnoli
Veröffentlicht in: Applied Network Science, 2024, ISSN 2364-8228
Herausgeber: Springer
DOI: 10.1007/S41109-024-00643-1

Multi-party open-ended conversation with a social robot

Autoren: Giulio Antonio Abbo, Maria Jose Pinto-Bernal, Martijn Catrycke, Tony Belpaeme
Veröffentlicht in: Frontiers in Robotics and AI, Ausgabe 13, 2026, ISSN 2296-9144
Herausgeber: Frontiers Media SA
DOI: 10.3389/FROBT.2026.1766383

FrameAxis: characterizing microframe bias and intensity with word embedding

Autoren: Haewoon Kwak, Jisun An, Elise Jing, Yong-Yeol Ahn
Veröffentlicht in: PeerJ Computer Science, Ausgabe 7, 2024, ISSN 2376-5992
Herausgeber: PeerJ
DOI: 10.7717/PEERJ-CS.644

I Was Blind but Now I See: Implementing Vision-Enabled Dialogue in Social Robots

Autoren: Giulio Antonio Abbo, Tony Belpaeme
Veröffentlicht in: 2025 20th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2025
Herausgeber: IEEE
DOI: 10.1109/HRI61500.2025.10973830

The Role of Robot Justifications in Human Moral Decision-Making: A Qualitative Study on Decision-Making and Value Alignment

Autoren: Marchesi S., Wiedemann H., Wykowska A.
Veröffentlicht in: Value Engineering in Artificial Intelligence. VALE 2026
Herausgeber: IJCAI

“Can You be my Mum?”: Manipulating Social Robots in the Large Language Models Era

Autoren: Giulio Antonio Abbo, Gloria Desideri, Tony Belpaeme, Micol Spitale
Veröffentlicht in: 2025 20th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2025
Herausgeber: IEEE
DOI: 10.1109/HRI61500.2025.10973919

Combining Theory of Mind and Abductive Reasoning in Agent-Oriented Programming

Autoren: Nieves Montes, Michael Luck, Nardine Osman, Odinaldo Rodrigues, Carles Sierra
Veröffentlicht in: AAMAS '24: Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems -- A*
Herausgeber: ACM
DOI: 10.5555/3635637.3663306

Fine-Grained Clustering of Social Media: How Moral Triggers Drive Preferences and Consensus

Autoren: Emanuele Brugnoli, Pietro Gravino, Donald Ruggiero Lo Sardo, Vittorio Loreto, Giulio Prevedello
Veröffentlicht in: Proceedings of the 16th International Conference on Agents and Artificial Intelligence, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012595000003636

Does Contractualism Shape Trust and Perceived Agency in Social Robots?

Autoren: Gil-Buitrago, H., Marcos-Vidal, L., Pretus, C.
Veröffentlicht in: Value Engineering in Artificial Intelligence. VALE 2025
Herausgeber: OSF
DOI: 10.31234/OSF.IO/XJMVE

Value Alignment in Participatory Budgeting

Autoren: Marc Serramia, Maite López-Sánchez, Juan A. Rodríguez-Aguilar, Stefano Moretti
Veröffentlicht in: 23rd International Conference on Autonomous Agents and Multiagent Systems, AAMAS 2024 -- A*
Herausgeber: ACM
DOI: 10.5555/3635637.3663030

When I Choose for You: Moral Reasoning in Third-Person Ethics for HRI

Autoren: Wiedemann H., Marchesi S., Wykowska A.
Veröffentlicht in: EUROPEAN CONFERENCE ON ARTIFICIAL INTELLIGENCE, 2025
Herausgeber: Springer

Expressive Furhat: Generating Real-Time Facial Expressions for Human-Robot Dialogue with LLMs

Autoren: Giulio Antonio Abbo, Ruben Janssens, Seppe Van de Vreken, Tony Belpaeme
Veröffentlicht in: Companion Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction, 2026
Herausgeber: ACM
DOI: 10.1145/3776734.3794436

Moral Narratives of Robots Increase the Likelihood of Adopting the Intentional Stance

Autoren: Ziggy O'Reilly, Serena Marchesi, Agnieszka Wykowska
Veröffentlicht in: Proceedings of the 12th International Conference on Human-Agent Interaction, 2025
Herausgeber: ACM
DOI: 10.1145/3687272.3688312

A Computational Framework of Human Values

Autoren: Nardine Osman and Mark d'Inverno
Veröffentlicht in: AAMAS '24: Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems -- A*
Herausgeber: ACM
DOI: 10.5555/3635637.3663013

Users' Perspectives on Value Awareness in Social Robots

Autoren: Abbo, Giulio Antonio; Belpaeme, Tony
Veröffentlicht in: 2023
Herausgeber: Association for Computing Machinery
DOI: 10.5281/zenodo.8123742

Towards Value Awareness in the Medical Field

Autoren: Manel Rodriguez-Soto, Nardine Osman, Carles Sierra, Paula Sánchez Veja, Rocio Cintas Garcia, Cristina Farriols Danes, Montserrat Garcia Retortillo, Silvia Minguez Maso
Veröffentlicht in: Proceedings of the 16th International Conference on Agents and Artificial Intelligence, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012588600003636

A Computational Model of Ostrom's Institutional Analysis and Development Framework (Extended Abstract)

Autoren: Nieves Montes, Nardine Osman, Carles Sierra
Veröffentlicht in: Proceedings of the Thirty-Second International Joint Conference on Artificial Intelligence, 2023
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/IJCAI.2023/786

MPG at DisCoTeX: Predicting Text Coherence by Tree-based Modelling of Linguistic Features

Autoren: Martina Galletti, Pietro Gravino, Giulio Prevedello
Veröffentlicht in: Proceedings of the Eighth Evaluation Campaign of Natural Language Processing and Speech Tools for Italian. Final Workshop (EVALITA 2023), 2023, ISSN 1613-0073
Herausgeber: CEUR-WS

Agent-based Modeling Meets the Capability Approach for Human Development: Simulating Homelessness Policy-making

Autoren: Alba Aguilera, Nardine Osman, Georgina Curto
Veröffentlicht in: Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence, 2025
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/IJCAI.2025/1058

Are Your Keywords Like My Queries? A Corpus-Wide Evaluation of Keyword Extractors with Real Searches

Autoren: Martina Galletti, Giulio Prevedello, Emanuele Brugnoli, Donald Ruggiero Lo Sardo, Pietro Gravino
Veröffentlicht in: Proceedings of the 31st International Conference on Computational Linguistics, 2025
Herausgeber: ACL Anthology

Towards a Definition of Awareness for Embodied AI

Autoren: Giulio Abbo, Serena Marchesi, Kinga Ciupinska, Agnieszka Wykowska, Tony Belpaeme
Veröffentlicht in: Proceedings of the 16th International Conference on Agents and Artificial Intelligence, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012594800003636

Designing social robots with LLMs for engaging human interaction

Autoren: Pinto-Bernal, M., Biondina, M., Belpaeme, T.
Veröffentlicht in: Applied Sciences, Ausgabe 15(11), 2025
Herausgeber: MDPI

Can Interpretability Layouts Influence Human Perception of Offensive Sentences?

Autoren: Thiago Freitas dos Santos; Nardine Osman; Marco Schorlemmer
Veröffentlicht in: Lecture Notes in Computer Science ISBN: 9783031700736, 2024
Herausgeber: Springer
DOI: 10.48550/ARXIV.2403.05581

Addressing the Value Alignment Problem Through Online Institutions

Autoren: Pablo Noriega; Harko Verhagen; Julian Padget; Mark d’Inverno
Veröffentlicht in: Lecture Notes in Computer Science ISBN: 9783031491320, 2023
Herausgeber: Springer
DOI: 10.1007/978-3-031-49133-7_5

An Analytical Study of Utility Functions in Multi-Objective Reinforcement Learning

Autoren: Manel Rodriguez-Soto, Juan A. Rodríguez-Aguilar, Maite López-Sánchez
Veröffentlicht in: 38th Conference on Neural Information Processing Systems, NeurIPS 2024 -- A*
Herausgeber: Neurips 2025

Can Poverty Be Reduced by Acting on Discrimination? An Agent-based Model for Policy Making

Autoren: Alba Aguilera, Nieves Montes, Georgina Curto, Carles Sierra, Nardine Osman
Veröffentlicht in: AAMAS '24: Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems -- A*
Herausgeber: ACM
DOI: 10.5555/3635637.3662848

Multimodal Large Language Models for Real-Time Situated Reasoning

Autoren: Giulio Antonio Abbo, Senne Lenaerts, Tony Belpaeme
Veröffentlicht in: Companion Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction, 2026
Herausgeber: ACM
DOI: 10.1145/3776734.3796242

The Awareness Attribution Scale: An Italian Validation Study

Autoren: Marina Sarda Gou, Serena Marchesi, Agnieszka Wykowska, Tony Prescott
Veröffentlicht in: Companion Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction, 2026
Herausgeber: ACM
DOI: 10.1145/3776734.3794417

Value Inference in Sociotechnical Systems

Autoren: Enrico Liscio, Roger Lera Leri, Filippo Bistaffa, Roel I. J. Dobbe, Catholijn M. Jonker, Maite López Sánchez y Juan A. Rodríguez Aguilar, Pradeep K. Murukannaiah
Veröffentlicht in: Proceedings of the 22nd International Conference on Autonomous Agents and MultiAgent Systems (AAMAS '23), 2023
Herausgeber: International Foundation for Autonomous Agents and Multiagent SystemsRichlandSC
DOI: 10.5555/3545946.3598838

Towards Automating the Design of Value-Aligned Clinical Protocols

Autoren: Manel Rodríguez Soto, Nardine Osman, Carles Sierra García, Rocio Cintas-Garcia, Cristina Farriols-Danes, Montserrat Garcia-Retortillo, Silvia Minguez-Maso, & Jordi Martinez-Roldan
Veröffentlicht in: Proceedings of the 24th International Conference on Autonomous Agents and Multiagent Systems, AAMAS ’25, Ausgabe pp. 2729–2731, 2025
Herausgeber: International Foundation for Autonomous Agents and Multiagent Systems

Workshop on Artificial Intelligence Governance Ethics and Law (AIGEL 2022)

Autoren: Pablo Noriega, Enric Plaza
Herausgeber: CEUR Workshop Proceedings

Values in Social Robots: Implementing Inclusive, Value-Aware Human-Robot Interactions

Autoren: Abbo, G.A., Belpaeme, T.
Herausgeber: ACM
DOI: 10.5555/3721488.3721783

"Awareness in robotics: An early perspective from the viewpoint of the EIC Pathfinder Challenge ""Awareness Inside"""

Autoren: Della Santina, Cosimo; Hernandez Corbato, Carlos; Sisman, Burak; Leiva, Luis A.; Arapakis, Ioannis; Vakalellis, Michalis; Vanderdonckt, Jean
Veröffentlicht in: arXiv, Vol. 2402, no.1, p. 15 (2024), 2024
Herausgeber: Springer Proceedings in Advanced Robotics
DOI: 10.1007/978-3-031-76424-0_20

An Agent-Based Model for Poverty and Discrimination Policy-Making

Autoren: Montes, Nieves; Curto, Georgina; Osman, Nardine; Sierra, Carles
Veröffentlicht in: CUER WS, 2023, ISSN 1613-0073
Herausgeber: CEUR workshop proceedings
DOI: 10.48550/arxiv.2303.13994

Notes on Measures for Information Access in Neuroscience and AI Systems

Autoren: Giulio Prevedello, Luis Marcos-Vidal, Emanuele Brugnoli, Pietro Gravino
Veröffentlicht in: Proceedings of the 16th International Conference on Agents and Artificial Intelligence, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012596000003636

Cross-community Adapter Learning (CAL) to Understand the Evolving Meanings of Norm Violation

Autoren: Thiago Freitas dos Santos, Stephen Cranefield, Bastin Tony Roy Savarimuthu, Nardine Osman, Marco Schorlemmer
Veröffentlicht in: Proceedings of the Thirty-Second International Joint Conference on Artificial Intelligence, 2023
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/IJCAI.2023/13

Prompt-Based Value Steering of Large Language Models

Autoren: Abbo, Giulio Antonio, and Tony Belpaeme.
Veröffentlicht in: To appear in: Value Engineering in Artificial Intelligence: Third International Workshop, VALE 2025
Herausgeber: arXiv preprint repository

A Contractualist Argumentation Framework for Moral Decision-Making

Autoren: Luis Marcos-Vidal, Giulio Antonio Abbo, Tony Belpaeme
Veröffentlicht in: To appear in: Value Engineering in Artificial Intelligence: Fourth International Workshop, VALE 2026
Herausgeber: Springer

Assessing LLMs Responses in the Field of Domestic Sustainability: An Exploratory Study

Autoren: Mathyas Giudici, Giulio Antonio Abbo, Ottavia Belotti, Alessio Braccini, Francesco Dubini, Riccardo Andrea Izzo, Pietro Crovari, Franca Garzotto
Veröffentlicht in: 2023 Third International Conference on Digital Data Processing (DDP), 2024
Herausgeber: IEEE
DOI: 10.1109/DDP60485.2023.00019

Value Inference in Sociotechnical Systems

Autoren: Enrico Liscio, Roger Lera Leri, Filippo Bistaffa, Roel I. J. Dobbe, Catholijn M. Jonker, Maite López Sánchez y Juan A. Rodríguez Aguilar, Pradeep K. Murukannaiah
Veröffentlicht in: Proceedings of the 22nd International Conference on Autonomous Agents and MultiAgent Systems (AAMAS '23) -- A*
Herausgeber: ACM
DOI: 10.5555/3545946.3598838

AwarePrompt: Using Diffusion Models to Create Methods for Measuring Value-Aware AI Architectures

Autoren: Kinga Ciupinska, Serena Marchesi, Giulio Abbo, Tony Belpaeme, Agnieszka Wykowska
Veröffentlicht in: Proceedings of the 16th International Conference on Agents and Artificial Intelligence, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012596400003636

Seeing Only When Needed: A Multimodal Architecture for Context-Aware Social Dialogue

Autoren: Pinto Bernal, M. J., Belpaeme, T.
Veröffentlicht in: Companion Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction, 2026
Herausgeber: Association for Computing Machinery (ACM)
DOI: 10.1145/3776734.3794486

Paper

Autoren: Nardine Osman, Bruno Rosell i Gui, Carles Sierra
Herausgeber: CEUR Workshop Proceedings

Moral agents as relational systems: The Contract-Based Model of Moral Cognition for AI

Autoren: Luis Marcos Vidal, Serena Marchesi, Agnieszka Wykowska, Clara Pretus
Veröffentlicht in: 2024
Herausgeber: Center for Open Science
DOI: 10.31234/OSF.IO/52X74

Modelling Moral Decision-Making in a Contractualist Artificial Agent

Autoren: Giovanni Dalmasso, Luis Marcos Vidal, Clara Pretus
Veröffentlicht in: 2024
Herausgeber: Center for Open Science
DOI: 10.31219/OSF.IO/658RS

An empirical study in automated news attribution: embedding distance narrows candidate sources but cannot confirm reuse

Autoren: Pietro Gravino
Herausgeber: Zenodo

LLMs Can Fuel Extremist Attitudes Using Universal Moral Framings

Autoren: Rosamunde Cecilie Hendricks Helena Gil-Buitrago Clara Pretus
Herausgeber: John Wiley and Sons Inc
DOI: 10.17605/OSF.IO/2M7YB

Scaling crowdsourcing interventions to combat partisan misinformation

Autoren: Clara Pretus; Helena Gil-Buitrago; Irene Cisma; Rosamunde C. Hendricks; Daniela Lizarazo-Villarreal
Veröffentlicht in: advances.in/psychology, 2024
Herausgeber: Elsevier B.V.
DOI: 10.56296/AIP00018

Multi-Party Open-Ended Conversations with the Furhat robot

Autoren: Catrycke, Martijn; Abbo, Giulio Antonio; Pinto-Bernal, Maria Jose; Belpaeme, Tony
Herausgeber: Zenodo
DOI: 10.5281/ZENODO.12819749

Leveraging Diversity in Online Interactions

Autoren: Nardine Osman, Bruno Rosell i Gui, Carles Sierra
Veröffentlicht in: Proceedings of the Workshops at the Second International Conference on Hybrid Human-Artificial Intelligence co-located with (HHAI 2023), Munich, Germany, June 26-27, 2023, Ausgabe 3456, 248-253, 2023
Herausgeber: CEUR-WS.org

A computational model of Ostrom's Institutional Analysis and Development framework

Autoren: Montes, Nieves; Osman, Nardine; Sierra, Carles
Veröffentlicht in: Artificial Intelligence, 2022
Herausgeber: Elsevier
DOI: 10.48550/ARXIV.2105.13151

Paper

Autoren: Nieves Montes, Georgina Curto, Nardine Osman, Carles Sierra
Veröffentlicht in: 2nd Workshop on Agent-based Modeling and Policy-Making (AMPM 2022)
Herausgeber: CEUR Workshop Proceedings

Value-Enriched Population Synthesis: Integrating a Motivational Layer

Autoren: Alba Aguilera, Miquel Albertí, Nardine Osman, Georgina Curto
Veröffentlicht in: Lecture Notes in Computer Science, Value Engineering in Artificial Intelligence, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-85463-7_1

Population Synthesis with Motivational Attributes: A Path Towards Cultural Variation in Agent-Based Models

Autoren: Alba Aguilera, Miquel Albertí, Nardine Osman, Georgina Curto
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2025, 2025
Herausgeber: IOS Press
DOI: 10.3233/FAIA251255

Vision Language Models as Values Detectors

Autoren: Giulio Antonio Abbo, Tony Belpaeme
Veröffentlicht in: Lecture Notes in Computer Science, Value Engineering in Artificial Intelligence, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-85463-7_5

On the Relationship Between the Intentional Stance and Robot Responsibility

Autoren: Ziggy O’Reilly, Serena Marchesi
Veröffentlicht in: Intentional Stance Towards Humanoid Robots, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-65483-1_7

Towards the Incorporation of Social Values in Automated Negotiation Strategies

Autoren: Laura Rodriguez Cima, Dave De Jonge, Nardine Osman
Veröffentlicht in: Lecture Notes in Computer Science, Value Engineering in Artificial Intelligence, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-85463-7_12

On the Relationship Between the Intentional Stance and Robot Responsibility

Autoren: Ziggy O’Reilly, Serena Marchesi
Veröffentlicht in: Intentional Stance Towards Humanoid Robots, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-65483-1_7

Value-Aware Multiagent Systems

Autoren: Nardine Osman
Veröffentlicht in: Lecture Notes in Computer Science, Coordination, Organizations, Institutions, Norms, and Ethics for Governance of Multi-Agent Systems XVII, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-82039-7_3

An Approximate Embedding for Designing Ethical Reinforcement Learning Environments

Autoren: Arnau Mayoral-Macau, Manel Rodriguez-Soto, Enrico Marchesini, Martí Sánchez-Fibla, Maite López-Sánchez, Juan Antonio Rodríguez-Aguilar, Alessandro Farinelli
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2025, 2025
Herausgeber: IOS Press
DOI: 10.3233/FAIA251093

User Study Design for Identifying the Semantics of Bioethical Principles

Autoren: Manel Rodriguez-Soto, Nardine Osman, Carles Sierra, Nieves Montes, Jordi Martinez Roldan, Rocio Cintas Garcia, Cristina Farriols Danes, Montserrat Garcia Retortillo, Silvia Minguez Maso
Veröffentlicht in: Lecture Notes in Computer Science, Value Engineering in Artificial Intelligence, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-85463-7_2

Child Speech Recognition in Human-Robot Interaction: Problem Solved?

Autoren: Ruben Janssens, Eva Verhelst, Giulio Antonio Abbo, Qiaoqiao Ren, Maria Jose Pinto Bernal, Tony Belpaeme
Veröffentlicht in: Lecture Notes in Computer Science, Social Robotics, 2025
Herausgeber: Springer Nature Singapore
DOI: 10.1007/978-981-96-3519-1_43

Towards Convention-Based Game Strategies

Autoren: Shuxian Pan, Carles Sierra
Veröffentlicht in: Lecture Notes in Computer Science, Coordination, Organizations, Institutions, Norms, and Ethics for Governance of Multi-Agent Systems XVI, 2023
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-49133-7_10

Justifications of Moral Responsibility Attributions Towards a Humanoid Robot

Autoren: Ziggy O’Reilly, Serena Marchesi, Agnieszka Wykowska
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, Social Robots with AI: Prospects, Risks, and Responsible Methods, 2025
Herausgeber: IOS Press
DOI: 10.3233/FAIA241504

Designing Robots That are Accepted in Human Social Environments: Anthropomorphism, the Intentional Stance, Cultural Norms and Values, and Societal Implications

Autoren: Serena Marchesi, Agnieszka Wykowska
Veröffentlicht in: The De Gruyter Handbook of Robots in Society and Culture, 2024
Herausgeber: De Gruyter
DOI: 10.1515/9783110792270-004

From the Pascal Wager to Value Engineering: A Glance at AI Risks and How to Address Them

Autoren: Pablo Noriega, Pompeu Casanovas
Veröffentlicht in: Lecture Notes in Computer Science, Value Engineering in Artificial Intelligence, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-85463-7_16

Rechte des geistigen Eigentums

ValueAlignment: Una librería para el cálculo del alineamiento de valores.

Antrags-/Publikationsnummer: - IDDN1.ES2.0033.5000014.0005.S6.X7.20238.0009.00000010
Datum: 2024-12-12
Antragsteller: AGENCIA ESTATAL CONSEJO SUPERIOR DE INVESTIGACIONES CIENTIFICAS

Suche nach OpenAIRE-Daten ...

Projektergebnisse

Leistungen

Veröffentlichungen

Rechte des geistigen Eigentums

Herunterladen Den Inhalt der Seite herunterladen