It takes two to tango: a synergistic approach to human-machine decision making

Projektinformationen

TANGO

ID Finanzhilfevereinbarung: 101120763

DOI

10.3030/101120763

EK-Unterschriftsdatum 30 Juni 2023

Startdatum 1 Oktober 2023

Enddatum 30 September 2027

Finanziert unter

• Digital, Industry and Space

Gesamtkosten

€ 7 008 798,75

EU-Beitrag

€ 7 008 798,75

Koordiniert durch

UNIVERSITA DEGLI STUDI DI TRENTO
Italy

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Leistungen

Websites, patent fillings, videos etc. (1)

Brand and comm. channels

Brand and communications channelsestablished and live.

Data Management Plan (2)

First data management plan

(First) Ethical, Gender, Legal, Security Compliance Framework for the data management lifecycle.

Second data management plan

(Second) Ethical, Gender, Legal, Security Compliance Framework for the data management lifecycle

Documents, reports (6)

Cognition-aware explanations for HML

Definition, design and development ofcognitive-aware explanations.

First exploitation strategy

First exploitation strategy and roadmap to market

Cognition-aware explanations for DM

Definition, design and development of theunified explanation-driven HDM process

First communication and dissemination report

Periodic report on C&D activities

Application guidelines

Document with guidelines for theimplementation and coordination of theapplications.

TANGO system specifications

Architectural specifications of the TANGObackend system.

Veröffentlichungen

Conference proceedings (27)

Towards Logically Consistent Language Models via Probabilistic Reasoning

Autoren: Calanzone, Diego; Teso, Stefano; Vergari, Antonio
Veröffentlicht in: 2024
Herausgeber: ICLR 2024 Workshop on Reliable and Responsible Foundation Models
DOI: 10.48550/ARXIV.2404.12843

A Simple and Expressive Graph Neural Network Based Method for Structural Link Representation

Autoren: Veronica Lachi, Francesco Ferrini, Antonio Longa, Bruno Lepri, Andrea Passerini
Veröffentlicht in: Proceedings of the GRaM Workshop at ICML 2024, 2024
Herausgeber: PMLR

Uncertainty Matters: Stable Conclusions Under Unstable Assessment of Fairness Results

Autoren: Ainhize Barrainkua, Paula Gordaliza, Jose A Lozano, Novi Quadrianto
Veröffentlicht in: Proceedings of the 27th International Conference on Artificial Intelligence and Statistics (AISTATS) 2024, Valencia, Spain. PMLR., 2024
Herausgeber: Proceedings of the 27th International Conference on Artificial Intelligence and Statistics (AISTATS) 2024, Valencia, Spain. PMLR: Volume 238.

Ensemble Counterfactual Explanations forChurn Analysis

Autoren: Samuele Tonati, Marzio Di Vece, Roberto Pellungrini, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78980-9_21

Ensemble Counterfactual Explanations for Churn Analysis

Autoren: Samuele Tonati, Marzio Di Vece, Roberto Pellungrini, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78980-9_21

Preference Elicitation in Interactive and User-centered Algorithmic Recourse: an Initial Exploration

Autoren: Seyedehdelaram Esfahani, Giovanni De Toni, Bruno Lepri, Andrea Passerini, Katya Tentori, Massimo Zancanaro
Veröffentlicht in: Proceedings of the 32nd ACM Conference on User Modeling, Adaptation and Personalization, 2024
Herausgeber: ACM
DOI: 10.1145/3627043.3659556

PUFFLE: Balancing Privacy, Utility, and Fairness in Federated Learning

Autoren: Luca Corbucci, Mikko A. Heikkilä, David Solans Noguero, Anna Monreale, Nicolas Kourtellis
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2024, 2024
Herausgeber: IOS Press
DOI: 10.3233/FAIA240671

Sheaf Diffusion Goes Nonlinear: Enhancing GNNs with Adaptive Sheaf Laplacians

Autoren: Olga Zaghen, Antonio Longa, Steve Azzolin, Lev Telyatnikov, Andrea Passerini, Pietro Lio
Veröffentlicht in: Proceedings of the GRaM Workshop at ICML 2024, 2024
Herausgeber: PMLR

Unveiling LLMs: The Evolution of Latent Representations in a Dynamic Knowledge Graph

Autoren: Marco Bronzini, Carlo Nicolini, Bruno Lepri, Jacopo Staiano, Andrea Passerini
Veröffentlicht in: Proceedings of COLM, 2024, 2024
Herausgeber: openreview.net

Reconsidering Faithfulness in Regular, Self-Explainable and Domain Invariant GNNs

Autoren: Steve Azzolin, Antonio Longa, Stefano Teso, Andrea Passerini
Veröffentlicht in: Proceedings of ICLR, 2025
Herausgeber: OpenReview

BEARS Make Neuro-Symbolic Models Aware of their Reasoning Shortcuts

Autoren: Marconato, Emanuele; Bortolotti, Samuele; van Krieken, Emile; Vergari, Antonio; Passerini, Andrea; Teso, Stefano
Veröffentlicht in: Proceedings of UAI, 2024
Herausgeber: Proceedings of UAI, 2024

Epistemic Interaction – Tuning Interfaces to Provide Information for AI Support

Autoren: Alan Dix, Ben Wilson Matt Roach, Tommaso Turchi, Alessio Malizia
Veröffentlicht in: SYNERGY 2024 – Designing and Building Hybrid Human-AI Systems 2024, 2024
Herausgeber: SYNERGY 2024 – Designing and Building Hybrid Human-AI Systems 2024

One-Shot Clustering for Federated Learning

Autoren: Maciej Krzysztof Zuziak, Roberto Pellungrini, Salvatore Rinzivillo
Veröffentlicht in: 2024 IEEE International Conference on Big Data (BigData), 2025
Herausgeber: IEEE
DOI: 10.48550/arXiv.2503.04231

One-Shot Clustering for Federated Learning

Autoren: Maciej Krzysztof Zuziak, Roberto Pellungrini, Salvatore Rinzivillo
Veröffentlicht in: 2024 IEEE International Conference on Big Data (BigData), 2025
Herausgeber: IEEE
DOI: 10.1109/BIGDATA62323.2024.10825763

Designing for situated AI-human decision making: Lessons learned from a primary care deployment

Autoren: Ben Wilson, Darren Scott, Matt Roach, Emily Nielsen, Berndt Muller
Veröffentlicht in: SYNERGY 2024 – Designing and Building Hybrid Human-AI Systems 2024, 2024
Herausgeber: SYNERGY 2024 – Designing and Building Hybrid Human-AI Systems 2024

Interpretable and Fair Mechanisms for Abstaining Classifiers

Autoren: Daphne Lenders, Andrea Pugnana, Roberto Pellungrini, Toon Calders, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-70368-3_25

Enhancing Privacy and Utility in Federated Learning: A Hybrid P2P and Server-Based Approach with Differential Privacy Protection

Autoren: Luca Corbucci, Anna Monreale, Roberto Pellungrini
Veröffentlicht in: Proceedings of the 21st International Conference on Security and Cryptography, 2024
Herausgeber: SCITEPRESS - Science and Technology Publications
DOI: 10.5220/0012863600003767

Logically Consistent Language Models via Neuro-Symbolic Integration

Autoren: Diego Calanzone, Stefano Teso, Antonio Vergari
Veröffentlicht in: International Conference on Learning Representations (ICLR), 2025

Disagreement-based Active Learning for Robustness Against Subpopulation Shifts

Autoren: Yeat Jeng Ng, Viktoriia Sharmanska, Thomas Kehrenberg, Anastasia Pentina, Novi Quadrianto
Veröffentlicht in: Proceedings of the HLDM Workshop at ECML 2024, 2024
Herausgeber: Proceedings of the HLDM Workshop @ ECML 2024

GLOR-FLEX: Local to Global Rule-Based EXplanations for Federated Learning

Autoren: Rami Haffar, Francesca Naretto, David Snchez, Anna Monreale, Josep Domingo-Ferrer
Veröffentlicht in: 2024 IEEE International Conference on Fuzzy Systems (FUZZ-IEEE), 2024
Herausgeber: IEEE
DOI: 10.1109/FUZZ-IEEE60900.2024.10611878

A Neuro-Symbolic Benchmark Suite for Concept Quality and Reasoning Shortcuts

Autoren: Bortolotti, Samuele; Marconato, Emanuele; Carraro, Tommaso; Morettin, Paolo; van Krieken, Emile; Vergari, Antonio; Teso, Stefano; Passerini, Andrea
Veröffentlicht in: Advances in Neural Information Processing Systems 37 (NeurIPS 2024), 2024
Herausgeber: Neural Information Processing Systems Foundation, Inc. (NeurIPS)

Can LLMs Correct Physicians, Yet? Investigating Effective Interaction Methods in the Medical Domain

Autoren: Burcu Sayin, Pasquale Minervini, Jacopo Staiano, Andrea Passerini
Veröffentlicht in: Proceedings of the 6th Clinical Natural Language Processing Workshop, 2024
Herausgeber: Association for Computational Linguistics
DOI: 10.18653/v1/2024.clinicalnlp-1.19

Coordination in dynamic interactions by converging on tacitly agreed joint plans

Autoren: Arthur Le Pargneux, Hossam Zeitoun, Emmanouil Konstantinidis, Nick Chater
Veröffentlicht in: 2024
Herausgeber: Center for Open Science
DOI: 10.31234/osf.io/w2x3f

Interpretable andFair Mechanisms forAbstaining Classifiers

Autoren: Daphne Lenders, Andrea Pugnana, Roberto Pellungrini, Toon Calders, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.48550/arXiv.2503.18826

A Frank System for Co-Evolutionary Hybrid Decision-Making

Autoren: Federico Mazzoni, Riccardo Guidotti, Alessio Malizia
Veröffentlicht in: Lecture Notes in Computer Science, Advances in Intelligent Data Analysis XXII, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-58553-1_19

PUFFLE: Balancing Privacy, Utility, and Fairness in Federated Learning

Autoren: Luca Corbucci, Mikko A. Heikkil, David Solans Noguero, Anna Monreale, Nicolas Kourtellis
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2024, 2024
Herausgeber: IOS Press
DOI: 10.3233/FAIA240671

Explainable AI in Time-Sensitive Scenarios: Prefetched Offline Explanation Model

Autoren: Fabio Michele Russo, Carlo Metta, Anna Monreale, Salvatore Rinzivillo, Fabio Pinelli
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78980-9_11

Peer reviewed articles (14)

Explaining the Explainers in Graph Neural Networks: a Comparative Study

Autoren: Antonio Longa, Steve Azzolin, Gabriele Santin, Giulia Cencetti, Pietro Lio, Bruno Lepri, Andrea Passerini
Veröffentlicht in: ACM Computing Surveys, 2024, ISSN 0360-0300
Herausgeber: Association for Computing Machinery (ACM)
DOI: 10.1145/3696444

CERN for AI: a theoretical framework for autonomous simulation-based artificial intelligence testing and alignment

Autoren: Ljubiša Bojić; Matteo Cinelli; Dubravko Ćulibrk; Boris Delibašić
Veröffentlicht in: European Journal of Futures Research, 2024, ISSN 2195-2248
Herausgeber: European Journal of Futures Research
DOI: 10.48550/ARXIV.2312.09402

Futures

Autoren: Bojic, Ljubisa
Veröffentlicht in: Futures, 2024, ISSN 0016-3287
Herausgeber: Elsevier
DOI: 10.1016/J.FUTURES.2024.103383

Fostering effective hybrid human-LLM reasoning and decision making

Autoren: Passerini, Andrea; Gema, Aryo; Minervini, Pasquale; Sayin, Burcu; Tentori, Katya
Veröffentlicht in: FRONTIERS IN ARTIFICIAL INTELLIGENCE, 2025, ISSN 2624-8212
Herausgeber: Frontiers Media SA
DOI: 10.3389/frai.2024.1464690

NeST: The neuro-symbolic transpiler

Autoren: Viktor Pfanschilling, Hikaru Shindo, Devendra Singh Dhami, Kristian Kersting
Veröffentlicht in: International Journal of Approximate Reasoning, Ausgabe 179, 2025, ISSN 0888-613X
Herausgeber: Elsevier BV
DOI: 10.1016/J.IJAR.2025.109369

AI alignment: Assessing the global impact of recommender systems

Autoren: Ljubisa Bojic
Veröffentlicht in: Futures, Ausgabe 160, 2024, ISSN 0016-3287
Herausgeber: Elsevier BV
DOI: 10.1016/J.FUTURES.2024.103383

Conversational technology and reactions to withheld information

Autoren: Nikolos Gurney, George Loewenstein, Nick Chater
Veröffentlicht in: PLOS ONE, Ausgabe 19, 2024, ISSN 1932-6203
Herausgeber: Public Library of Science (PLoS)
DOI: 10.1371/journal.pone.0301382

Fast, Interpretable, and Deterministic Time Series Classification With a Bag-of-Receptive-Fields

Autoren: Francesco Spinnato, Riccardo Guidotti, Anna Monreale, Mirco Nanni
Veröffentlicht in: IEEE Access, Ausgabe 12, 2024, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/ACCESS.2024.3464743

Resource-rational contractualism: A triple theory of moral cognition

Autoren: Sydney Levine, Nick Chater, Joshua B. Tenenbaum, Fiery Cushman
Veröffentlicht in: Behavioral and Brain Sciences, 2024, ISSN 0140-525X
Herausgeber: Cambridge University Press (CUP)
DOI: 10.1017/S0140525X24001067

When rules are over-ruled: Virtual bargaining as a contractualist method of moral judgment

Autoren: Sydney Levine, Max Kleiman-Weiner, Nick Chater, Fiery Cushman, Joshua B. Tenenbaum
Veröffentlicht in: Cognition, Ausgabe 250, 2024, ISSN 0010-0277
Herausgeber: Elsevier BV
DOI: 10.1016/J.COGNITION.2024.105790

Rethinking and Recomputing the Value of Machine Learning Models

Autoren: Burcu Sayin; Jie Yang; Xinyue Chen; Andrea Passerini; Fabio Casati
Veröffentlicht in: Crossref, 2024, ISSN 1573-7462
Herausgeber: Artificial Intelligence Review
DOI: 10.21203/RS.3.RS-4833578/V1

Generative Model for Decision Trees

Autoren: Riccardo Guidotti; Anna Monreale; Mattia Setzu; Giulia Volpi
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, 2024, ISSN 2374-3468
Herausgeber: Proceedings of the AAAI Conference on Artificial Intelligence
DOI: 10.1609/AAAI.V38I19.30104

Fast, Interpretable, and Deterministic Time Series Classification With a Bag-of-Receptive-Fields

Autoren: Francesco Spinnato, Riccardo Guidotti, Anna Monreale, Mirco Nanni
Veröffentlicht in: IEEE Access, Ausgabe 12, 2024, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/ACCESS.2024.3464743

Explainable AI for Time Series Classification: A Review, Taxonomy and Research Directions

Autoren: Andreas Theissler, Francesco Spinnato, Udo Schlegel, Riccardo Guidotti
Veröffentlicht in: IEEE Access, Ausgabe 10, 2022, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/ACCESS.2022.3207765

Monographic books (1)

Beyond the Face: Biometrics and Society

Autoren: Bojan, Perkov; Jelena, Adamović; Duje, Kozomara; Mila, Bajić; Duje, Prkut
Veröffentlicht in: 2023
Herausgeber: SHARE Foundation
DOI: 10.5281/ZENODO.13819768