Science and technology for the explanation of AI decision making

GLOR-FLEX: Local to Global Rule-Based EXplanations for Federated Learning

Autoren: Rami Haffar, Francesca Naretto, David Sánchez, Anna Monreale, Josep Domingo-Ferrer
Veröffentlicht in: 2024 IEEE International Conference on Fuzzy Systems (FUZZ-IEEE), 2024, Seite(n) 1-9
Herausgeber: IEEE
DOI: 10.1109/fuzz-ieee60900.2024.10611878

Investigating Debiasing Effects on Classification and Explainability

Autoren: Marchiori Manerba Marta, Morini Virginia
Veröffentlicht in: Machine Learning and Principles and Practice of Knowledge Discovery in Databases, 2022
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-23618-1_32

Explaining Siamese Networks in Few-Shot Learning for Audio Data

Autoren: Fedele Andrea, Guidotti Riccardo, Pedreschi Dino
Veröffentlicht in: Discovery Science 25th International Conference, DS 2022, Proceedings, 2022
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-18840-4_36

TRIPLEx: Triple Extraction for Explanation

Autoren: Mattia Setzu, Anna Monreale, Pasquale Minervini
Veröffentlicht in: IEEE Third International Conference on Cognitive Machine Intelligence (CogMI), 2021
Herausgeber: IEEE
DOI: 10.1109/cogmi52975.2021.00015

Geolet: An Interpretable Model for Trajectory Classification

Autoren: Landi Cristiano,Spinnato Francesco, Guidotti Riccardo, Monreale Anna, Nanni Mirco
Veröffentlicht in: Proceedings of the 2023 conference Advances in Intelligent Data Analysis XXI, 2023
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-30047-9_19

Privacy Risk of Global Explainers

Autoren: Francesca Naretto, Anna Monreale, Fosca Giannotti
Veröffentlicht in: Proceedings of the First International Conference on Hybrid Human-Artificial Intelligence, 2022
Herausgeber: IOS Press
DOI: 10.3233/faia220206

Explaining Image Classifiers Generating Exemplars and Counter-Exemplars from Latent Representations

Autoren: Guidotti Riccardo, Monreale Anna, Matwin Stan, Pedreschi Dino
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, 2020
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v34i09.7116

Social Bias Probing: Fairness Benchmarking for Language Models

Autoren: Marta Marchiori Manerba, Karolina Stanczak, Riccardo Guidotti, Isabelle Augenstein
Veröffentlicht in: Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing, 2024, Seite(n) 14653-14671
Herausgeber: Association for Computational Linguistics
DOI: 10.18653/v1/2024.emnlp-main.812

FairBelief - Assessing Harmful Beliefs in Language Models

Autoren: Mattia Setzu, Marta Marchiori Manerba, Pasquale Minervini, Debora Nozza
Veröffentlicht in: Proceedings of the 4th Workshop on Trustworthy Natural Language Processing (TrustNLP 2024), 2024, Seite(n) 27-39
Herausgeber: Association for Computational Linguistics
DOI: 10.18653/v1/2024.trustnlp-1.3

Explaining Any Time Series Classifier

Autoren: Riccardo Guidotti, Anna Monreale, Francesco Spinnato, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: IEEE Second International Conference on Cognitive Machine Intelligence (CogMI), 2020, Seite(n) 167-176
Herausgeber: IEEE
DOI: 10.1109/cogmi50398.2020.00029

How routing strategies impact urban emissions

Autoren: Giuliano Cornacchia, Matteo Böhm, Giovanni Mauro, Mirco Nanni, Dino Pedreschi, Luca Pappalardo
Veröffentlicht in: Proceedings of the 30th International Conference on Advances in Geographic Information Systems, Ausgabe SIGSPATIAL ’22 — November 1–4, 2022, Seattle, WA, USA, 2025, Seite(n) 1-4, ISBN 978-1-4503-9529-8
Herausgeber: ACM
DOI: 10.1145/3557915.3560977

Exemplars and Counterexemplars Explanations for Skin Lesion Classifiers

Autoren: Carlo Metta, Riccardo Guidotti, Yuan Yin, Patrick Gallinari, Salvatore Rinzivillo
Veröffentlicht in: Volume 354: HHAI2022: Augmenting Human Intellect, 2022
Herausgeber: IOS Press
DOI: 10.3233/faia220209

Data-Agnostic Local Neighborhood Generation

Autoren: Riccardo Guidotti, Anna Monreale
Veröffentlicht in: 2020 IEEE International Conference on Data Mining (ICDM), 2020, Seite(n) 1040-1045, ISBN 978-1-7281-8316-9
Herausgeber: IEEE
DOI: 10.1109/icdm50108.2020.00122

User-driven counterfactual generator: a human centered exploration

Autoren: Beretta I; Cappuccio E; Marchiori Manerba M
Veröffentlicht in: xAI-2023 - 1st World Conference on eXplainable Artificial, pp. 83–88, Lisbon, Portugal, 26-28/07/2023, Ausgabe 1, 2023, Seite(n) 83-88, ISSN 1613-0073
Herausgeber: CEUR (CEUR Workshop Proceedings)

Demo: an Interactive Visualization Combining Rule-Based and Feature Importance Explanations

Autoren: Eleonora Cappuccio, Daniele Fadda, Rosa Lanzilotti, Salvatore Rinzivillo
Veröffentlicht in: Proceedings of the 15th Biannual Conference of the Italian SIGCHI Chapter, 2023, Seite(n) 1-4
Herausgeber: ACM
DOI: 10.1145/3605390.3610811

Understanding the impact of explanations on advice-taking: a user study for AI-based clinical Decision Support Systems

Autoren: Cecilia Panigutti, Andrea Beretta, Fosca Giannotti, Dino Pedreschi
Veröffentlicht in: CHI '22: CHI Conference on Human Factors in Computing Systems, 2022, ISBN 9781450391573
Herausgeber: Association for Computing Machinery
DOI: 10.1145/3491102.3502104

Evaluating the Privacy Exposure of Interpretable Global Explainers

Autoren: Naretto Francesca, Monreale Anna, Giannotti Fosca
Veröffentlicht in: IEEE 4th International Conference on Cognitive Machine Intelligence (CogMI), 2022
Herausgeber: IEEE
DOI: 10.1109/cogmi56440.2022.00012

FairShades: Fairness Auditing via Explainability in Abusive Language Detection Systems

Autoren: Marchiori Manerba, Marta; Guidotti, Riccardo
Veröffentlicht in: 2021 IEEE Third International Conference on Cognitive Machine Intelligence (CogMI), 2021
Herausgeber: IEEE Computer Society
DOI: 10.1109/cogmi52975.2021.00014

XAI in healthcare

Autoren: Gezici G.; Metta C; Beretta A.; Pellungrini R.; Rinzivillo S.; Pedreschi D.; Giannotti F.
Veröffentlicht in: xAI 2024 - 2nd World Conference on eXplainable Artificial Intelligence, Ausgabe 1, 2024
Herausgeber: CEUR-WS

Transparent Latent Space Counterfactual Explanations for Tabular Data

Autoren: Bodria Francesco, Riccardo Guidotti, Fosca Giannotti, Dino Pedreschi
Veröffentlicht in: 2022
Herausgeber: IEEE
DOI: 10.1109/dsaa54385.2022.10032407

Perspectives in Play: A Multi-Perspective Approach for More Inclusive NLP Systems

Autoren: Benedetta Muscato, Lucia Passaro, Gizem Gezici, Fosca Giannotti
Veröffentlicht in: Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence, 2025, Seite(n) 9827-9835
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/ijcai.2025/1092

Predicting and Explaining Privacy Risk Exposure in Mobility Data

Autoren: Francesca Naretto, Roberto Pellungrini, Anna Monreale, Franco Maria Nardini, Mirco Musolesi
Veröffentlicht in: Discovery Science Conference, 2020, Seite(n) 403-418
Herausgeber: Springer
DOI: 10.1007/978-3-030-61527-7_27

Multi-Perspective Stance Detection

Autoren: Benedetta Muscato, Praveen Bushipaka, Gizem Gezici, Lucia Passaro, Fosca Giannotti
Veröffentlicht in: 2024
Herausgeber: CEUR

Enhancing Echo State Networks with Gradient-based Explainability Methods

Autoren: Francesco Spinnato, Andrea Cossu, Riccardo Guidotti, Andrea Ceni, Claudio Gallicchio, Davide Bacciu
Veröffentlicht in: ESANN 2024 proceesdings, 2024, Seite(n) 17-22
Herausgeber: Ciaco - i6doc.com
DOI: 10.14428/esann/2024.es2024-78

Explaining Black Box with Visual Exploration of Latent Space

Autoren: Bodria, Francesco; Rinzivillo, Salvatore; Fadda, Daniele; Guidotti, Riccardo; Giannotti, Fosca; Pedreschi, Dino
Veröffentlicht in: Ausgabe 10, 2022
Herausgeber: The Eurographics Association
DOI: 10.2312/evs.20221098

Boosting Synthetic Data Generation with Effective Nonlinear Causal Discovery

Autoren: Martina Cinquini, Fosca Giannotti, Riccardo Guidotti
Veröffentlicht in: 2021 IEEE Third International Conference on Cognitive Machine Intelligence (CogMI), Ausgabe CogMI 2021 — December 13–16, 2021, Virtual Conference, 2022, Seite(n) 54-63, ISBN 978-1-6654-4417-8
Herausgeber: IEEE
DOI: 10.1109/cogmi52975.2021.00016

Explaining Crash Predictions on~Multivariate Time Series Data

Autoren: Spinnato Francesco, Guidotti Riccardo, Nanni Mirco, Maccagnola Daniele, Paciello Giulia, Bencini Farina Antonio
Veröffentlicht in: Discovery Science 25th International Conference, DS 2022, Montpellier, France, October 10–12, 2022, Proceedings, 2022
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-18840-4_39

Requirements of eXplainable AI in Algorithmic Hiring

Autoren: Andrea Beretta, Gianmario Ercoli, Alfonso Ferraro, Riccardo Guidotti, Andrea Iommi, Antonio Mastropietro, Anna Monreale, Daniela Rotelli, Salvatore Ruggieri
Veröffentlicht in: AIMMES 2024: AI bias – Measurements, Mitigation, Explanation Strategies (CEUR Workshop Proceedings, Vol. 3744), Ausgabe CEUR Workshop Proceedings, Volume 3744, 2024, Seite(n) 75–86
Herausgeber: CEUR-WS.org

Categorical Explaining Functors: Ensuring Coherence in Logical Explanations

Autoren: Stefano Fioravanti, Francesco Giannini, Pietro Barbiero, Paolo Frazzetto, Roberto Confalonieri, Fabio Zanasi, Nicolò Navarin
Veröffentlicht in: Proceedings of the TwentySecond International Conference on Principles of Knowledge Representation and Reasoning, Ausgabe 22nd International Conference (KR2025), 2025, Seite(n) 306-315, ISBN 978-1-956792-08-9
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/kr.2025/30

Ensemble of Counterfactual Explainers

Autoren: Guidotti, Riccardo; Ruggieri, Salvatore
Veröffentlicht in: Discovery Science: 24th International Conference, DS 2021, 2021
Herausgeber: ACM
DOI: 10.1007/978-3-030-88942-5_28

Prediction and Explanation of Privacy Risk on Mobility Data with Neural Networks

Autoren: Francesca Naretto, Roberto Pellungrini, Franco Maria Nardini, Fosca Giannotti
Veröffentlicht in: ECML PKDD 2020 Workshops, 2020
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-030-65965-3_34

Beyond Headlines: A Corpus of Femicides News Coverage in Italian Newspapers

Autoren: Eleonora Cappuccio, Benedetta Muscato, Laura Pollacci, Marta Marchiori Manerba, Clara Punzi, Chandana Mala, Margherita Lalli, Gizem Gezici, Michela Natilli, Fosca Giannotti
Veröffentlicht in: Proceedings of the Tenth Italian Conference on Computational Linguistics (CLiC-it 2024), Ausgabe 2024.clicit-1.21, 2024, Seite(n) 171–181
Herausgeber: CEUR Workshop Proceedings

Position Paper: On the Role of Abductive Reasoning in Semantic Image Segmentation.

Autoren: Andrea Rafanelli; Stefania Costantini; Andrea Omicini
Veröffentlicht in: Ausgabe 1, 2022
Herausgeber: CEUR-WS

An Overview of Recent Approaches to Enable Diversity in Large Language Models through Aligning with Human Perspectives

Autoren: Muscato, Benedetta; Mala, Chandana Sree; Manerba M. M.; Gezici, Gizem; Giannotti, Fosca
Veröffentlicht in: CEUR Workshop Proceedings, Ausgabe 3, 2024
Herausgeber: CEUR Workshop Proceedings

AUC-based Selective Classification

Autoren: Pugnana Andrea, Ruggieri Salvatore
Veröffentlicht in: Proceedings of The 26th International Conference on Artificial Intelligence and Statistics, 2023
Herausgeber: PMLR

Designing Shapelets for Interpretable Data-Agnostic Classification

Autoren: Guidotti, Riccardo; Monreale, Anna
Veröffentlicht in: AIES '21: Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society, 2021
Herausgeber: ACM
DOI: 10.1145/3461702.3462553

Explain and interpret few-shot learning

Autoren: Fedele A.
Veröffentlicht in: xAI-2023 - 1st World Conference on eXplainable Artificial, pp. 233–240, Lisbon, Portugal, 26-28/06/2023, Ausgabe Vol. 3554, 2023, Seite(n) 233–240
Herausgeber: CEUR-WS (CEUR Workshop Proceedings)

Explanations Go Linear: Interpretable and Individual Latent Encoding for Post-hoc Explainability

Autoren: Simone Piaggesi, Riccardo Guidotti, Fosca Giannotti, Dino Pedreschi
Veröffentlicht in: 2025
Herausgeber: IEEE

Interpretable Latent Space to Enable Counterfactual Explanations

Autoren: Francesco Bodria, Riccardo Guidotti, Fosca Giannotti, Dino Pedreschi
Veröffentlicht in: Lecture Notes in Artificial Intelligence (LNAI), 2022, ISSN 0302-9743
Herausgeber: Springer Cham
DOI: 10.1007/978-3-031-18840-4_37

Doctor XAI: an ontology-based approach to black-box sequential data classification explanations

Autoren: Cecilia Panigutti,Alan Perotti,Dino Pedreschi
Veröffentlicht in: FAT* '20: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 2020, Seite(n) 629–639
Herausgeber: ACM
DOI: 10.1145/3351095.3372855

The ethical impact assessment of selling life insurance to titanic passengers

Autoren: Gezici, Gizem; Mannari, Chiara; Orlandi, Lorenzo
Veröffentlicht in: HHAI-WS 2023 - Workshops at the Second International Conference on Hybrid Human-Artificial Intelligence, pp. 35–50, Munich, Germany, 26-27/06/2023, Ausgabe 20, 2023
Herausgeber: CEUR-WS

Explaining Sentiment Classification with Synthetic Exemplars and Counter-Exemplars

Autoren: Orestis Lampridis, Riccardo Guidotti, Salvatore Ruggieri
Veröffentlicht in: Lecture Notes in Computer Science, 2020
Herausgeber: Springer
DOI: 10.1007/978-3-030-61527-7_24

Counterfactual and Prototypical Explanations for Tabular Data via Interpretable Latent Space

Autoren: Simone Piaggesi, Francesco Bodria, Riccardo Guidotti, Fosca Giannotti, Dino Pedreschi
Veröffentlicht in: IEEE Access, Ausgabe 12, 2024, Seite(n) 168983-169000, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers Inc.
DOI: 10.1109/access.2024.3496114

Fast, Interpretable, and Deterministic Time Series Classification With a Bag-of-Receptive-Fields

Autoren: Francesco Spinnato, Riccardo Guidotti, Anna Monreale, Mirco Nanni
Veröffentlicht in: IEEE Access, Ausgabe 12, 2024, Seite(n) 137893-137912, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers Inc.
DOI: 10.1109/access.2024.3464743

Topics in Selective Classification

Autoren: Andrea Pugnana
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 37, 2023, Seite(n) 16129-16130, ISSN 2374-3468
Herausgeber: ACM
DOI: 10.1609/aaai.v37i13.26925

Inference through innovation processes tested in the authorship attribution task

Autoren: Giulio Tani Raffaelli, Margherita Lalli, Francesca Tria
Veröffentlicht in: Communications Physics, Ausgabe 7, 2024, ISSN 2399-3650
Herausgeber: Nature Communications Physics
DOI: 10.1038/s42005-024-01714-6

GLocalX - From Local to Global Explanations of Black Box AI Models

Autoren: Mattia Setzu, Riccardo Guidotti, Anna Monreale, Franco Turini, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Artificial Intelligence, Ausgabe 294, 2021, ISSN 0004-3702
Herausgeber: Elsevier BV
DOI: 10.1016/j.artint.2021.103457

Improving trust and confidence in medical skin lesion diagnosis through explainable deep learning

Autoren: Carlo Metta, Andrea Beretta, Riccardo Guidotti, Yuan Yin, Patrick Gallinari, Salvatore Rinzivillo, Fosca Giannotti
Veröffentlicht in: International Journal of Data Science and Analytics, 2023, ISSN 2364-415X
Herausgeber: Springer Science+Business Media
DOI: 10.1007/s41060-023-00401-z

Explainable Authorship Identification in Cultural Heritage Applications

Autoren: Mattia Setzu, Silvia Corbara, Anna Monreale, Alejandro Moreo, Fabrizio Sebastiani
Veröffentlicht in: Journal on Computing and Cultural Heritage, Ausgabe 17, 2024, Seite(n) 1-23, ISSN 1556-4673
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3654675

Deterministic, quenched, and annealed parameter estimation for heterogeneous network models

Autoren: Marzio Di Vece, Diego Garlaschelli, Tiziano Squartini
Veröffentlicht in: Physical Review E, Ausgabe 108, 2023, Seite(n) 054301, ISSN 2470-0045
Herausgeber: American Physical Society (APS)
DOI: 10.1103/physreve.108.054301

Commodity-specific triads in the Dutch inter-industry production network

Autoren: Marzio Di Vece, Frank P. Pijpers, Diego Garlaschelli
Veröffentlicht in: Scientific Reports, Ausgabe 14, 2024, ISSN 2045-2322
Herausgeber: Nature Publishing Group
DOI: 10.1038/s41598-024-53655-3

Assessing Trustworthy AI in Times of COVID-19: Deep Learning for Predicting a Multiregional Score Conveying the Degree of Lung Compromise in COVID-19 Patients

Autoren: Himanshi Allahabadi, Julia Amann, Isabelle Balot, Andrea Beretta, Charles Binkley, Jonas Bozenhard, Frederick Bruneault, James Brusseau, Sema Candemir, Luca Alessandro Cappellini, Subrata Chakraborty, Nicoleta Cherciu, Christina Cociancig, Megan Coffee, Irene Ek, Leonardo Espinosa-Leal, Davide Farina, Genevieve Fieux-Castagnet, Thomas Frauenfelder, Alessio Gallucci, Guya Giuliani, Adam Golda, Irmh
Veröffentlicht in: IEEE Transactions on Technology and Society, Ausgabe 3, 2023, Seite(n) 272-289, ISSN 2637-6415
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/tts.2022.3195114

Matrix Profile-Based Interpretable Time Series Classifier

Autoren: Riccardo Guidotti, Matteo D’Onofrio
Veröffentlicht in: Frontiers in Artificial Intelligence, Ausgabe 4, 2021, ISSN 2624-8212
Herausgeber: Frontiers Media SA
DOI: 10.3389/frai.2021.699448

Understanding Any Time Series Classifier with a Subsequence-based Explainer

Autoren: Francesco Spinnato, Riccardo Guidotti, Anna Monreale, Mirco Nanni, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: ACM Transactions on Knowledge Discovery from Data, Ausgabe 18, 2023, Seite(n) 1-34, ISSN 1556-4681
Herausgeber: Special Interest Group on Computer Graphics, Association for Computing Machinery
DOI: 10.1145/3624480

Shape-based Methods in Mobility Data Analysis: Effectiveness and Limitations

Autoren: Cristiano Landi, Riccardo Guidotti
Veröffentlicht in: GeoInformatica, Ausgabe Volume 29,, 2024, Seite(n) 999–1032, ISSN 1573-7624
Herausgeber: Springer Science and Business Media LLC
DOI: 10.21203/rs.3.rs-5369626/v1

Explainable AI for Time Series Classification: A Review, Taxonomy and Research Directions

Autoren: Andreas Theissler, Francesco Spinnato, Udo Schlegel, Riccardo Guidotti
Veröffentlicht in: IEEE Access (Volume: 10), 2022, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers Inc.
DOI: 10.1109/access.2022.3207765

Evaluating local explanation methods on ground truth

Autoren: Guidotti, Riccardo
Veröffentlicht in: Artificial Intelligence, 2020, ISSN 0004-3702
Herausgeber: Elsevier BV
DOI: 10.1016/j.artint.2020.103428

A Practical Approach to Causal Inference over Time

Autoren: Martina Cinquini, Isacco Beretta, Salvatore Ruggieri, Isabel Valera
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 39, 2025, Seite(n) 14832-14839, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i14.33626

SafeGen: safeguarding privacy and fairness through a genetic method

Autoren: Martina Cinquini, Marta Marchiori Manerba, Federico Mazzoni, Francesca Pratesi, Riccardo Guidotti
Veröffentlicht in: Machine Learning, Ausgabe 114, 2025, Seite(n) 227, ISSN 0885-6125
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10994-025-06835-9

Advancing Dermatological Diagnostics: Interpretable AI for Enhanced Skin Lesion Classification

Autoren: Carlo Metta, Andrea Beretta, Riccardo Guidotti, Yuan Yin, Patrick Gallinari, Salvatore Rinzivillo, Fosca Giannotti
Veröffentlicht in: Diagnostics, Ausgabe 14, 2024, Seite(n) 753, ISSN 2075-4418
Herausgeber: Diagnostics
DOI: 10.3390/diagnostics14070753

Occlusion-Based Explanations in Deep Recurrent Models for Biomedical Signals

Autoren: Michele Resta, Anna Monreale, Davide Bacciu
Veröffentlicht in: Entropy, Ausgabe 8, 2021, ISSN 1099-4300
Herausgeber: Multidisciplinary Digital Publishing Institute (MDPI)
DOI: 10.3390/e23081064

Explainable Artificial Intelligence (XAI) 2.0: A manifesto of open challenges and interdisciplinary research directions

Autoren: Luca Longo, Mario Brcic, Federico Cabitza, Jaesik Choi, Roberto Confalonieri, Javier Del Ser, Riccardo Guidotti, Yoichi Hayashi, Francisco Herrera, Andreas Holzinger, Richard Jiang, Hassan Khosravi, Freddy Lecue, Gianclaudio Malgieri, Andrés Páez, Wojciech Samek, Johannes Schneider, Timo Speith, Simone Stumpf
Veröffentlicht in: Information Fusion, Ausgabe 106, 2024, Seite(n) 102301, ISSN 1566-2535
Herausgeber: Elsevier BV
DOI: 10.1016/j.inffus.2024.102301

Counterfactual explanations and how to find them: literature review and benchmarking

Autoren: Riccardo Guidotti
Veröffentlicht in: Data Mining and Knowledge Discovery, 2022, ISSN 1384-5810
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10618-022-00831-6

Evaluating the Privacy Exposure of Interpretable Global and Local Explainers

Autoren: Francesca Naretto, Anna Monreale, Fosca Giannotti
Veröffentlicht in: Evaluating the Privacy Exposure of Interpretable Global and Local Explainers, Ausgabe 18(2), 2025, Seite(n) 67–93, ISSN 1888-5063
Herausgeber: Institut d'Investigacio en Intel-ligencia Artificial - Consejo Superior Investigaciones Cientificas (IIIA-CSIC)

Counterfactual Situation Testing: From Single to Multidimensional Discrimination

Autoren: Jose M. Alvarez, Salvatore Ruggieri
Veröffentlicht in: Journal of Artificial Intelligence Research, Ausgabe 82, 2025, Seite(n) 2279-2323, ISSN 1076-9757
Herausgeber: Morgan Kaufmann Publishers, Inc.
DOI: 10.1613/jair.1.17935

Exemplars and Counterexemplars Explanations for Image Classifiers, Targeting Skin Lesion Labeling

Autoren: Metta, Carlo; Guidotti, Riccardo; Yin, Yuan; Gallinari, Patrick; Rinzivillo, Salvatore
Veröffentlicht in: 2021 IEEE Symposium on Computers and Communications (ISCC), 2021, ISSN 2642-7389
Herausgeber: IEEE
DOI: 10.1109/iscc53001.2021.9631485

The explanation dialogues: an expert focus study to understand requirements towards explanations within the GDPR

Autoren: Laura State, Alejandra Bringas Colmenarejo, Andrea Beretta, Salvatore Ruggieri, Franco Turini, Stephanie Law
Veröffentlicht in: Artificial Intelligence and Law, 2025, ISSN 0924-8463
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10506-024-09430-w

Analysis of exposome and genetic variability suggests stress as a major contributor for development of pancreatic ductal adenocarcinoma

Autoren: Giulia Peduzzi, Alessio Felici, Roberto Pellungrini, Francesca Giorgolo, Riccardo Farinella, Manuel Gentiluomo, Andrea Spinelli, Gabriele Capurso, Anna Monreale, Federico Canzian, Marco Calderisi, Daniele Campa
Veröffentlicht in: Digestive and Liver Disease, Ausgabe 56, 2024, Seite(n) 1054-1063, ISSN 1590-8658
Herausgeber: W. B. Saunders Co., Ltd.
DOI: 10.1016/j.dld.2023.10.015

FairLens: Auditing black-box clinical decision support systems

Autoren: Cecilia Panigutti, Alan Perotti, André Panisson, Paolo Bajardi, Dino Pedreschi
Veröffentlicht in: Information Processing & Management, Ausgabe 58, 2021, ISSN 0306-4573
Herausgeber: Pergamon Press Ltd.
DOI: 10.1016/j.ipm.2021.102657

The ALTAI checklist as a tool to assess ethical and legal implications for a trustworthy AI development in education

Autoren: Andrea Fedele, Clara Punzi, Stefano Tramacere
Veröffentlicht in: Computer Law & Security Review, Ausgabe 53, 2025, Seite(n) 105986, ISSN 2212-473X
Herausgeber: Elsevier BV
DOI: 10.1016/j.clsr.2024.105986

Factual and Counterfactual Explanations for Black Box Decision Making

Autoren: Guidotti, R., Monreale, A., Giannotti, F., Pedreschi, D., Ruggieri, S., Turini, F.
Veröffentlicht in: IEEE Intelligent Systems, 2019, Seite(n) 14 - 23, ISSN 1541-1672
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/mis.2019.2957223

Towards Transparent Healthcare: Advancing Local Explanation Methods in Explainable Artificial Intelligence

Autoren: Carlo Metta, Andrea Beretta, Roberto Pellungrini, Salvatore Rinzivillo, Fosca Giannotti
Veröffentlicht in: Bioengineering, Ausgabe 11, 2024, Seite(n) 369, ISSN 2306-5354
Herausgeber: Bioengineering
DOI: 10.3390/bioengineering11040369

A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges

Autoren: Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo, Fosca Giannotti
Veröffentlicht in: ACM Computing Surveys, Ausgabe 56, 2025, Seite(n) 1-37, ISSN 0360-0300
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3618105

Effects of Route Randomization on Urban Emissions

Autoren: Giuliano Cornacchia, Mirco Nanni, Dino Pedreschi, Luca Pappalardo
Veröffentlicht in: SUMO Conference Proceedings, Ausgabe 4, 2024, Seite(n) 75-87, ISSN 2750-4425
Herausgeber: TIB Open Publishing
DOI: 10.52825/scp.v4i.217

Co-design of human-centered, explainable AI for clinical decision support

Autoren: Panigutti, C., Beretta, A., Fadda, D., Giannotti, F., Pedreschi, D., Perotti, A., Rinzivillo, S.
Veröffentlicht in: ACM Transactions on Interactive Intelligent Systems, 2023, ISSN 2160-6455
Herausgeber: Association for Computing Machinery (ACM)
DOI: 10.1145/3587271

Stable and actionable explanations of black-box models through factual and counterfactual rules

Autoren: Riccardo Guidotti, Anna Monreale, Salvatore Ruggieri, Francesca Naretto, Franco Turini, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Data Mining and Knowledge Discovery, Ausgabe 38, 2024, Seite(n) 2825-2862, ISSN 1384-5810
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10618-022-00878-5

Benchmarking and survey of explanation methods for black box models

Autoren: Francesco Bodria, Fosca Giannotti, Riccardo Guidotti, Francesca Naretto, Dino Pedreschi, Salvatore Rinzivillo
Veröffentlicht in: Data Mining and Knowledge Discovery, Ausgabe Volume 37 Ausgabe 3, May 2023, 2023, ISSN 1384-5810
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10618-023-00933-9

Understanding peace through the world news

Autoren: Voukelatou Vasiliki, Miliou Ioanna, Giannotti Fosca, Pappalardo Luca
Veröffentlicht in: EPJ Data Science, 2022, ISSN 2193-1127
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1140/epjds/s13688-022-00315-z

Generative Model for Decision Trees

Autoren: Riccardo Guidotti, Anna Monreale, Mattia Setzu, Giulia Volpi
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 38, 2024, Seite(n) 21116-21124, ISSN 2374-3468
Herausgeber: AAAI Press
DOI: 10.1609/aaai.v38i19.30104

An Interpretable Data-Driven Unsupervised Approach for the Prevention of Forgotten Items

Autoren: Luca Corbucci, Javier Alejandro Borges Legrottaglie, Francesco Spinnato, Anna Monreale, Riccardo Guidotti
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2025, 2025
Herausgeber: IOS Press
DOI: 10.3233/faia250912

Explaining Black-Boxes in Federated Learning

Autoren: Luca Corbucci, Riccardo Guidotti, Anna Monreale
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, 2024, Seite(n) 151-163
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-44067-0_8

A Frank System for Co-Evolutionary Hybrid Decision-Making

Autoren: Federico Mazzoni, Riccardo Guidotti, Alessio Malizia
Veröffentlicht in: Lecture Notes in Computer Science, Advances in Intelligent Data Analysis XXII, 2024, Seite(n) 236-248
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-58553-1_19

Interpretable Instance-Based Learning Through Pairwise Distance Trees

Autoren: Andrea Fedele, Alessio Cascione, Riccardo Guidotti, Cristiano Landi
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, Ausgabe 15126, 2025, Seite(n) 3-21, ISBN 978-3-032-06078-5
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-06078-5_1

Embracing Diversity: A Multi-Perspective Approach with Soft Labels

Autoren: Benedetta Muscato, Praveen Bushipaka, Gizem Gezici, Lucia Passaro, Fosca Giannotti, Tommaso Cucinotta
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, HHAI 2025, Ausgabe Volume 408 (FAIA), 2025, ISBN 978-1-64368-611-0
Herausgeber: IOS Press
DOI: 10.3233/faia250654

Towards Building a Trustworthy RAG-Based Chatbot for the Italian Public Administration

Autoren: Chandana Sree Mala, Christian di Maio, Mattia Proietti, Gizem Gezici, Fosca Giannotti, Stefano Melacci, Alessandro Lenci, Marco Gori
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, HHAI 2025, Ausgabe Volume 408 (FAIA), 2025, ISBN 978-1-64368-611-0
Herausgeber: IOS Press
DOI: 10.3233/faia250637

Causality-Aware Local Interpretable Model-Agnostic Explanations

Autoren: Martina Cinquini, Riccardo Guidotti
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, 2024, Seite(n) 108-124
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-63800-8_6

Group Explainability Through Local Approximation

Autoren: Mattia Setzu, Riccardo Guidotti, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, ECAI 2025, 2025
Herausgeber: IOS Press
DOI: 10.3233/faia250902

The Importance of Time in Causal Algorithmic Recourse

Autoren: Isacco Beretta, Martina Cinquini
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, 2023, Seite(n) 283-298
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-44064-9_16

An Interactive Interface for Feature Space Navigation

Autoren: Eleonora Cappuccio, Isacco Beretta, Marta Marchiori Manerba, Salvatore Rinzivillo
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, HHAI 2024: Hybrid Human AI Systems for the Social Good, 2024
Herausgeber: IOS Press
DOI: 10.3233/faia240184

Balancing Fairness and Interpretability in Clustering with FairParTree

Autoren: Cristiano Landi, Alessio Cascione, Marta Marchiori Manerba, Riccardo Guidotti
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, Ausgabe 2185, 2025, Seite(n) 104-127, ISBN 978-3-032-08324-1
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-08324-1_5

Interpretable Data Partitioning Through Tree-Based Clustering Methods

Autoren: Riccardo Guidotti, Cristiano Landi, Andrea Beretta, Daniele Fadda, Mirco Nanni
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2024, Seite(n) 492-507
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-45275-8_33

Exploring Large Language Models Capabilities to Explain Decision Trees

Autoren: Paulo Bruno Serafim, Pierluigi Crescenzi, Gizem Gezici, Eleonora Cappuccio, Salvatore Rinzivillo, Fosca Giannotti
Veröffentlicht in: Frontiers in Artificial Intelligence and Applications, HHAI 2024: Hybrid Human AI Systems for the Social Good, 2024
Herausgeber: IOS Press
DOI: 10.3233/faia240183

Text to Time Series Representations: Towards Interpretable Predictive Models

Autoren: Mattia Poggioli, Francesco Spinnato, Riccardo Guidotti
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2024, Seite(n) 230-245
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-45275-8_16

Ensemble Counterfactual Explanations for Churn Analysis

Autoren: Samuele Tonati, Marzio Di Vece, Roberto Pellungrini, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, Ausgabe 01/01/2025, 2025, Seite(n) 332-347
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78980-9_21

Interpretable and Fair Mechanisms for Abstaining Classifiers

Autoren: Daphne Lenders, Andrea Pugnana, Roberto Pellungrini, Toon Calders, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, 2024, Seite(n) 416-433
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-70368-3_25

Deriving a Single Interpretable Model by Merging Tree-Based Classifiers

Autoren: Valerio Bonsignori, Riccardo Guidotti, Anna Monreale
Veröffentlicht in: Discovery Science, 2021, ISSN 0302-9743
Herausgeber: Springer International Publishing
DOI: 10.1007/978-3-030-88942-5_27

EXPHLOT: EXplainable Privacy Assessment for Human LOcation Trajectories

Autoren: Francesca Naretto, Roberto Pellungrini, Salvatore Rinzivillo, Daniele Fadda
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2024, Seite(n) 325-340
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-45275-8_22

Unsupervised and Interpretable Detection of User Personalities in Online Social Networks

Autoren: Alessio Cascione, Laura Pollacci, Riccardo Guidotti
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, Ausgabe 2186, 2025, Seite(n) 162-179, ISBN 978-3-032-08327-2
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-08327-2_8

Principles of Explainable Artificial Intelligence

Autoren: Riccardo Guidotti, Anna Monreale, Dino Pedreschi, Fosca Giannotti
Veröffentlicht in: Explainable AI Within the Digital Transformation and Cyber Physical Systems, 2021, Seite(n) 9-31, ISBN 978-3-030-76409-8
Herausgeber: Springer, Cham
DOI: 10.1145/3461702.3462553

Explaining Socio-Demographic and Behavioral Patterns of Vaccination Against the Swine Flu (H1N1) Pandemic

Autoren: Clara Punzi, Aleksandra Maslennikova, Gizem Gezici, Roberto Pellungrini, Fosca Giannotti
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, 2024, Seite(n) 621-635
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-44067-0_31

FLocalX - Local to Global Fuzzy Explanations for Black Box Classifiers

Autoren: Guillermo Fernandez, Riccardo Guidotti, Fosca Giannotti, Mattia Setzu, Juan A. Aledo, Jose A. Gámez, Jose M. Puerta
Veröffentlicht in: Lecture Notes in Computer Science, Advances in Intelligent Data Analysis XXII, 2024, Seite(n) 197-209
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-58553-1_16

Declarative Reasoning on Explanations Using Constraint Logic Programming

Autoren: Laura State, Salvatore Ruggieri, Franco Turini
Veröffentlicht in: Lecture Notes in Computer Science, Logics in Artificial Intelligence, 2023, Seite(n) 132-141
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-43619-2_10

Semantic Enrichment of Explanations of AI Models for Healthcare

Autoren: Luca Corbucci, Anna Monreale, Cecilia Panigutti, Michela Natilli, Simona Smiraglio, Dino Pedreschi
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2024, Seite(n) 216-229
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-45275-8_15

MASCOTS: Model-Agnostic Symbolic COunterfactual Explanations for Time Series

Autoren: Dawid Płudowski, Francesco Spinnato, Piotr Wilczyński, Krzysztof Kotowski, Evridiki Vasileia Ntagiou, Riccardo Guidotti, Przemysław Biecek
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, Ausgabe 15126, 2025, Seite(n) 94-112, ISBN 978-3-032-06078-5
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-06078-5_6

Reason to Explain: Interactive Contrastive Explanations (REASONX)

Autoren: Laura State, Salvatore Ruggieri, Franco Turini
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, 2023, Seite(n) 421-437
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-44064-9_22

Explainable AI in Time-Sensitive Scenarios: Prefetched Offline Explanation Model

Autoren: Fabio Michele Russo, Carlo Metta, Anna Monreale, Salvatore Rinzivillo, Fabio Pinelli
Veröffentlicht in: Lecture Notes in Computer Science, Discovery Science, 2025, Seite(n) 167-182
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78980-9_11

Mathematical Foundation of Interpretable Equivariant Surrogate Models

Autoren: Jacopo Joy Colombini, Filippo Bonchi, Francesco Giannini, Fosca Giannotti, Roberto Pellungrini, Patrizio Frosini
Veröffentlicht in: Communications in Computer and Information Science, Explainable Artificial Intelligence, Ausgabe 2185, 2025, Seite(n) 294-318, ISBN 978-3-032-08324-1
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-08324-1_13

Data-Agnostic Pivotal Instances Selection for Decision-Making Models

Autoren: Alessio Cascione, Mattia Setzu, Riccardo Guidotti
Veröffentlicht in: Lecture Notes in Computer Science, Machine Learning and Knowledge Discovery in Databases. Research Track, 2024, Seite(n) 367-386
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-70341-6_22

DINE: Dimensional Interpretability of Node Embeddings

Autoren: Simone Piaggesi, Megha Khosla, André Panisson, Avishek Anand
Veröffentlicht in: IEEE Transactions on Knowledge and Data Engineering, Ausgabe 36, 2024, Seite(n) 7986-7997, ISSN 1041-4347
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/tkde.2024.3425460

Explaining Siamese networks in few-shot learning

Autoren: Andrea Fedele, Riccardo Guidotti, Dino Pedreschi
Veröffentlicht in: Machine Learning, Ausgabe 113, 2024, Seite(n) 7723-7760, ISSN 0885-6125
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10994-024-06529-8

Mapping the landscape of ethical considerations in explainable AI research

Autoren: Luca Nannini, Marta Marchiori Manerba, Isacco Beretta
Veröffentlicht in: Ethics and Information Technology, Ausgabe 26, 2024, ISSN 1388-1957
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10676-024-09773-7

Drifting explanations in continual learning

Autoren: Andrea Cossu, Francesco Spinnato, Riccardo Guidotti, Davide Bacciu
Veröffentlicht in: Neurocomputing, Ausgabe 597, 2024, Seite(n) 127960, ISSN 0925-2312
Herausgeber: Elsevier BV
DOI: 10.1016/j.neucom.2024.127960

Opening the black box: a primer for anti-discrimination

Autoren: Ruggieri Salvatore, Giannotti Fosca, Guidotti Riccardo, Monreale Anna, Pedreschi Dino, Turini Franco
Veröffentlicht in: ANNUARIO DI DIRITTO COMPARATO E DI STUDI LEGISLATIVI, 2021, ISSN 2039-9871
Herausgeber: Esi - Edizioni scientifiche Italiane

Veröffentlichungen

Diese Seite teilen Diese Seite in sozialen Netzwerken teilen

Herunterladen Den Inhalt der Seite herunterladen