European Lighthouse on Secure and Safe AI

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Leistungen

Benchmark Datasets

Six datasets and corresponding metrics will be defined, corresponding to the use cases.

Report on Privacy and Infrastructures Grand Challenge and Benchmarking Metrics

This report will summarise the results of Task 2.1.

Papers and Accompanying Code from Task 3.5 with New Methods and Open Source Tools

Papers and accompanying code from Task 3.5 with new methods and open source tools.

Report on Network and Communication Activities 2

Report on Network and Communication activities 2.

Intermediate Report on Privacy and Infrastructures

This report will consolidate progress on Tasks 2.2-2.4.

Report on Existing TPCA for Delivering AI Assurance 2: Journal Publication

This publication and D12 (D3.4) will summarise the findings on Task 3.3.

Report on Existing TPCA for Delivering AI Assurance 1: Policy Brief and Public Engagement Report

This publication and D13 (D3.5) will summarise the findings on Task 3.3.

Use Case Analysis Report

Detailed analysis of the six use cases, leading to specifications and requirements to be used as input to WP1-3.

Report on Technical Robustness and Safety Grand Challenge and Benchmarking Metrics

This report will summarise the results of Task 1.1.

Publish Strategic Research Agenda

Publish Strategic Research Agenda.

Report on Human-in-the-Loop Decision Making Grand Challenge

This report will summarise the results of Task 3.1.

Report on Results Based on SME Open Call

Report on results based on SME open call.

Report on Network and Communication Activities 3

Report on Network and Communication activities 3.

Report on Network and Communication Activities 1

Report on Network and Communication activities 1.

Report Detailing the Investigation and Framework from the Activities of Task 3.4

Report detailing the investigation and framework from the activities of Task 3.4.

Use Cases Activity Report 3

Updated version of D19 (D4.4).

New Methods for Interpretable-by-Design Deep Learning Methods

This publication will cover Task 3.2.

Use Cases Activity Report 1

Summary of progress on the implementation of demonstrators and benchmarks for each of the six use cases.

Use Cases Activity Report 2

Updated version of D18 (D4.3).

Intermediate Report on Technical Robustness and Safety

This report will consolidate progress on Tasks 1.2-1.5.

Software and Tools for Privacy-Preserving and Collaborative Learning

Release of open source software described in Task 2.5.

Software and Tools for Technical Robustness and Safety

Release of open source software described in Task 1.6.

Course Materials on Research Outcomes 1

Course materials on research outcomes 1.

Course Materials on Research Outcomes 2

Course materials on research outcomes 2.

Visual Identity, Style and Communication Guidelines

Visual identity, style and communication guidelines.

Veröffentlichungen

Towards algorithms and models that we can trust: A theoretical perspective

Autoren: Luca Oneto, Sandro Ridella, Davide Anguita
Veröffentlicht in: Neurocomputing, Ausgabe 592, 2024, ISSN 0925-2312
Herausgeber: Elsevier BV
DOI: 10.1016/J.NEUCOM.2024.127798

Adversarial pruning: A survey and benchmark of pruning methods for adversarial robustness

Autoren: Giorgio Piras, Maura Pintor, Ambra Demontis, Battista Biggio, Giorgio Giacinto, Fabio Roli
Veröffentlicht in: Pattern Recognition, Ausgabe 168, 2025, ISSN 0031-3203
Herausgeber: Elsevier BV
DOI: 10.1016/J.PATCOG.2025.111788

Informed Machine Learning: Excess risk and generalization

Autoren: Luca Oneto, Sandro Ridella, Davide Anguita
Veröffentlicht in: Neurocomputing, Ausgabe 646, 2025, ISSN 0925-2312
Herausgeber: Elsevier BV
DOI: 10.1016/J.NEUCOM.2025.130521

Secml-Malware: Pentesting Windows Malware Classifiers with Adversarial Exemples in Python

Autoren: Luca Demetrio, Battista Biggio
Veröffentlicht in: SSRN Electronic Journal, 2022, ISSN 1556-5068
Herausgeber: Elsevier BV
DOI: 10.2139/SSRN.4066509

Foundation Models and Fine-Tuning: A Benchmark for Out of Distribution Detection

Autoren: Francesco Cappio Borlino, Lorenzo Lu, Tatiana Tommasi
Veröffentlicht in: IEEE Access, Ausgabe 12, 2025, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/ACCESS.2024.3409587

Mask2Anomaly: Mask Transformer for Universal Open-Set Segmentation

Autoren: Shyam Nandan Rai, Fabio Cermelli, Barbara Caputo, Carlo Masone
Veröffentlicht in: IEEE Transactions on Pattern Analysis and Machine Intelligence, Ausgabe 46, 2024, ISSN 0162-8828
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/TPAMI.2024.3419055

Modeling Brain Aging With Explainable Triamese ViT: Towards Deeper Insights Into Autism Disorder

Autoren: Zhaonian Zhang, Vaneet Aggarwal, Plamen Angelov, Richard Jiang
Veröffentlicht in: IEEE Journal of Biomedical and Health Informatics, Ausgabe 29, 2025, ISSN 2168-2194
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/JBHI.2025.3574366

Learning to mask and permute visual tokens for Vision Transformer pre-training

Autoren: Lorenzo Baraldi, Roberto Amoroso, Marcella Cornia, Lorenzo Baraldi, Andrea Pilzer, Rita Cucchiara
Veröffentlicht in: Computer Vision and Image Understanding, Ausgabe 252, 2025, ISSN 1077-3142
Herausgeber: Elsevier BV
DOI: 10.1016/J.CVIU.2025.104294

IDEAL: Interpretable-by-Design ALgorithms for learning from foundation feature spaces

Autoren: Plamen Angelov, Dmitry Kangin, Ziyang Zhang
Veröffentlicht in: Neurocomputing, Ausgabe 626, 2025, ISSN 0925-2312
Herausgeber: Elsevier BV
DOI: 10.1016/J.NEUCOM.2025.129464

Neuron Activation Pattern and Applications

Autoren: Z. Jiang, P. Angelov, D. Kangin, …
Veröffentlicht in: IEEE Transcations on Pattern Analysis and Machine Intelligence, 2024, ISSN 0000-0000
Herausgeber: IEEE
DOI: 10.1109/TASE49443.2020.00020

Dispelling the Digital Enchantment: how can we move beyond its destructive influence and reclaim our right to an open future?

Autoren: Karen Yeung
Veröffentlicht in: Prometheus, 2023, ISSN 1470-1030
Herausgeber: Pluto Journals
DOI: 10.13169/prometheus.39.1.0008

IEEE Transactions on Pattern Analysis and Machine Intelligence

Autoren: Moritz Böhle, Navdeeppal Singh, Mario Fritz, Bernt Schiele
Veröffentlicht in: Transactions on Pattern Analysis and Machine Intelligence (TPAMI), 2024., ISSN 0162-8828
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/TPAMI.2024.3355155

Delve Into Neural Activations: Toward Understanding Dying Neurons

Autoren: Ziping Jiang, Yunpeng Wang, Chang-Tsun Li, Plamen Angelov, Richard Jiang
Veröffentlicht in: IEEE Transactions on Artificial Intelligence, Ausgabe 4, 2024, ISSN 2691-4581
Herausgeber: IEEE
DOI: 10.1109/TAI.2022.3180272

Wild Patterns Reloaded: A Survey of Machine Learning Security against Training Data Poisoning

Autoren: Antonio Emanuele Cinà, Kathrin Grosse, Ambra Demontis, Sebastiano Vascon, Werner Zellinger, Bernhard A. Moser, Alina Oprea, Battista Biggio, Marcello Pelillo, Fabio Roli
Veröffentlicht in: ACM Computing Surveys, Ausgabe 55, 2025, ISSN 0360-0300
Herausgeber: Association for Computing Machinery (ACM)
DOI: 10.1145/3585385

From ‘wild west’ to ‘responsible’ AI testing ‘in-the-wild’: lessons from live facial recognition testing by law enforcement authorities in Europe

Autoren: Karen Yeung, Wenlong Li
Veröffentlicht in: Data & Policy, Ausgabe 7, 2025, ISSN 2632-3249
Herausgeber: Cambridge University Press (CUP)
DOI: 10.1017/DAP.2025.10019

IMAFD: An Interpretable Multi-stage Approach to Flood Detection from time series Multispectral Data

Autoren: Ziyang Zhang, Plamen Angelov, Dmitry Kangin, Nicolas Longépé
Veröffentlicht in: Applied Soft Computing, Ausgabe 183, 2025, ISSN 1568-4946
Herausgeber: Elsevier BV
DOI: 10.1016/J.ASOC.2025.113582

When Should Algorithms Resign? A Proposal for AI Governance

Autoren: Umang Bhatt, Holli Sargeant
Veröffentlicht in: The IEEE Computer Society, ISSN 0018-9162
Herausgeber: The IEEE Computer Society
DOI: 10.48550/ARXIV.2402.18326

Building machines that learn and think with people

Autoren: Katherine M. Collins, Ilia Sucholutsky, Umang Bhatt, Kartik Chandra, Lionel Wong, Mina Lee, Cedegao E. Zhang, Tan Zhi-Xuan, Mark Ho, Vikash Mansinghka, Adrian Weller, Joshua B. Tenenbaum, Thomas L. Griffiths
Veröffentlicht in: Nature Human Behaviour, Ausgabe 8, 2024, ISSN 2397-3374
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1038/S41562-024-01991-9

Fairness Meets Cross-Domain Learning: A Benchmark of Models and Metrics

Autoren: Leonardo Iurada; Silvia Bucci; Timothy M. Hospedales; Tatiana Tommasi
Veröffentlicht in: IEEE Access, 2024, ISSN 2169-3536
Herausgeber: IEEE
DOI: 10.1109/ACCESS.2024.3383841

Algorithmic loafing and mitigation strategies in Human-AI teams

Autoren: Isa Inuwa-Dutse, Alice Toniolo, Adrian Weller, Umang Bhatt
Veröffentlicht in: Computers in Human Behavior: Artificial Humans, Ausgabe 1, 2025, ISSN 2949-8821
Herausgeber: Elsevier BV
DOI: 10.1016/J.CHBAH.2023.100024

Investigating over-parameterized randomized graph networks

Autoren: Giovanni Donghi, Luca Pasa, Luca Oneto, Claudio Gallicchio, Alessio Micheli, Davide Anguita, Alessandro Sperduti, Nicolò Navarin
Veröffentlicht in: Neurocomputing, Ausgabe 606, 2024, ISSN 0925-2312
Herausgeber: Elsevier BV
DOI: 10.1016/J.NEUCOM.2024.128281

Towards Robust Metrics for Concept Representation Evaluation

Autoren: Mateo Espinosa Zarlenga, Pietro Barbiero, Zohreh Shams, Dmitry Kazhdan, Umang Bhatt, Adrian Weller, Mateja Jamnik
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 37, 2023, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/AAAI.V37I10.26392

Fair graph representation learning: Empowering NIFTY via Biased Edge Dropout and Fair Attribute Preprocessing

Autoren: Danilo Franco, Vincenzo Stefano D’Amato, Luca Pasa, Nicolò Navarin, Luca Oneto
Veröffentlicht in: Neurocomputing, ISSN 1872-8286
Herausgeber: Neurocomputing
DOI: 10.1016/J.NEUCOM.2023.126948

Robustness-Congruent Adversarial Training for Secure Machine Learning Model Updates

Autoren: Daniele Angioni, Luca Demetrio, Maura Pintor, Luca Oneto, Davide Anguita, Battista Biggio, Fabio Roli
Veröffentlicht in: IEEE Transactions on Pattern Analysis and Machine Intelligence, Ausgabe 47, 2025, ISSN 0162-8828
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/TPAMI.2025.3573237

Advancing Personalized Federated Learning: Group Privacy, Fairness, and Beyond

Autoren: Filippo Galli, Kangsoo Jung, Sayan Biswas, Catuscia Palamidessi, Tommaso Cucinotta
Veröffentlicht in: Springer Nature Computer Science, 2023, ISSN 2661-8907
Herausgeber: Springer Nature
DOI: 10.1007/s42979-023-02292-0

Nebula: Self-Attention for Dynamic Malware Analysis

Autoren: Dmitrijs Trizna, Luca Demetrio, Battista Biggio, Fabio Roli
Veröffentlicht in: IEEE Transactions on Information Forensics and Security, Ausgabe 19, 2025, ISSN 1556-6013
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/TIFS.2024.3409083

ModSec-AdvLearn: Countering Adversarial SQL Injections With Robust Machine Learning

Autoren: Giuseppe Floris, Christian Scano, Biagio Montaruli, Luca Demetrio, Andrea Valenza, Luca Compagna, Davide Ariu, Luca Piras, Davide Balzarotti, Battista Biggio
Veröffentlicht in: IEEE Transactions on Information Forensics and Security, Ausgabe 20, 2025, ISSN 1556-6013
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/TIFS.2025.3583234

Perspectives on incorporating expert feedback into model updates

Autoren: Valerie Chen, Umang Bhatt, Hoda Heidari, Adrian Weller, Ameet Talwalkar
Veröffentlicht in: CellPress Open Access - Patterns, ISSN 0000-0000
Herausgeber: CellPress Open Access
DOI: 10.1016/J.PATTER.2023.100780

AttackBench: Evaluating Gradient-based Attacks for Adversarial Examples

Autoren: Antonio Emanuele Cinà, Jérôme Rony, Maura Pintor, Luca Demetrio, Ambra Demontis, Battista Biggio, Ismail Ben Ayed, Fabio Roli
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 39, 2025, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/AAAI.V39I3.32263

Adversarial Attack Detection via Fuzzy Predictions

Autoren: Y. Li, P. Angelov, N. Suri
Veröffentlicht in: IEEE Transactions on Fuzzy Systems, ISSN 1941-0034
Herausgeber: IEEE Transactions on Fuzzy Systems
DOI: 10.1109/TFUZZ.2024.3473768

On the robustness of adversarial training against uncertainty attacks

Autoren: Emanuele Ledda, Giovanni Scodeller, Daniele Angioni, Giorgio Piras, Antonio Emanuele Cinà, Giorgio Fumera, Battista Biggio, Fabio Roli
Veröffentlicht in: Pattern Recognition, Ausgabe 172, 2025, ISSN 0031-3203
Herausgeber: Elsevier BV
DOI: 10.1016/J.PATCOG.2025.112519

Collaborative learning from distributed data with differentially private synthetic data

Autoren: Lukas Prediger, Joonas Jälkö, Antti Honkela, Samuel Kaski
Veröffentlicht in: BMC Medical Informatics and Decision Making, Ausgabe 24, 2024, ISSN 1472-6947
Herausgeber: Springer Science and Business Media LLC
DOI: 10.1186/S12911-024-02563-7

Hierarchical multimodal transformers for Multipage DocVQA

Autoren: Rubèn Tito, Dimosthenis Karatzas, Ernest Valveny
Veröffentlicht in: Pattern Recognition, Ausgabe 144, 2023, ISSN 0031-3203
Herausgeber: Elsevier BV
DOI: 10.1016/J.PATCOG.2023.109834

Runtime Backdoor Detection for Federated Learning via Representational Dissimilarity Analysis

Autoren: Xiyue Zhang, Xiaoyong Xue, Xiaoning Du, Xiaofei Xie, Yang Liu, Meng Sun
Veröffentlicht in: IEEE Transactions on Dependable and Secure Computing, Ausgabe 22, 2025, ISSN 1545-5971
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.1109/TDSC.2025.3550330

Training-Free Open-Vocabulary Segmentation with Offline Diffusion-Augmented Prototype Generation

Autoren: Luca Barsellotti, Roberto Amoroso, Marcella Cornia, Lorenzo Baraldi, Rita Cucchiara
Veröffentlicht in: 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2024
Herausgeber: IEEE
DOI: 10.1109/CVPR52733.2024.00354

UnGANable: Defending Against GAN-based Face Manipulation Proceedings Article

Autoren: Zheng Li; Ning Yu; Ahmed Salem; Michael Backes; Mario Fritz; Yang Zhang
Veröffentlicht in: USENIX Security Symposium (USENIX Security), 2023
Herausgeber: USENIX
DOI: 10.5555/3620237.3620641

Do Invariances in Deep Neural Networks Align with Human Perception?

Autoren: V. Nanda, A. Majumdar, C. Kolling, J. Dickerson, K. Gummadi, B. Love and A. Weller.
Veröffentlicht in: Association for the Advancement of Artificial Intelligence Conference on Artificial Intelligence (AAAI), 2023.
Herausgeber: AAAI 2023
DOI: 10.1609/AAAI.V37I8.26112

Abstract Interpretation of Fixpoint Iterators with Applications to Neural Networks

Autoren: Mark Niklas Müller, Marc Fischer, Robin Staab, Martin Vechev
Veröffentlicht in: PLDI'23 (Proceedings of the ACM on Programming Languages), 2023, ISSN 2475-1421
Herausgeber: """Association for Computing Machinery New York, NY, United States"""
DOI: 10.1145/3591252

Individual Privacy Accounting with Gaussian Differential Privacy

Autoren: Antti Koskela, Marlon Tobaben, Antti Honkela
Veröffentlicht in: ICLR 2023, ISSN 2209-15596
Herausgeber: ICLR 2023

Client-specific Property Inference against Secure Aggregation in Federated Learning

Autoren: Raouf Kerkouche, Gergely Ács, Mario Fritz
Veröffentlicht in: Proceedings of the 22nd Workshop on Privacy in the Electronic Society (WPES), ACM, 2023
Herausgeber: WPES
DOI: 10.48550/ARXIV.2303.03908

Certified Robustness of Static Deep Learning-based Malware Detectors against Patch and Append Attacks

Autoren: Daniel Gibert, Giulio Zizzo, Quan Le
Veröffentlicht in: Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security, 2025
Herausgeber: ACM
DOI: 10.1145/3605764.3623914

Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing

Autoren: Alaa Anani, Tobias Lorenz, Bernt Schiele, Mario Fritz
Veröffentlicht in: International Conference on Machine Learning (ICML)
Herausgeber: International Conference on Machine Learning (ICML)

Hyperbolic Safety-Aware Vision-Language Models

Autoren: Tobia Poppi;Tejaswi Kasarla;Pascal Mettes;Lorenzo Baraldi;Rita Cucchiara
Veröffentlicht in: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition
Herausgeber: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition

From Attachments to SEO: Click Here to Learn More about Clickbait PDFs!

Autoren: Giada Stivala; Sahar Abdelnabi; Andrea Mengascini; Mariano Graziano; Mario Fritz; Giancarlo Pellegrino
Veröffentlicht in: ACSAC '23: Proceedings of the 39th Annual Computer Security Applications Conference
Herausgeber: ACSAC 23
DOI: 10.48550/ARXIV.2308.01273

Multitask Learning with No Regret: From Improved Confidence Bounds to Active Learning

Autoren: Pier Giuseppe Sessa, Pierre Laforgue, Nicolò Cesa-Bianchi, Andreas Krause
Veröffentlicht in: Advances in Neural Information Processing Systems 36 (NeurIPS 2023), 2023
Herausgeber: Advances in Neural Information Processing Systems 36 (NeurIPS 2023)

Learning to Receive Help: Intervention-Aware Concept Embedding Models

Autoren: Mateo Espinosa Zarlenga, Katherine M. Collins, Krishnamurthy Dvijotham, Adrian Weller, Zohreh Shams, Mateja Jamnik
Veröffentlicht in: Neural Information Processing Systems
Herausgeber: NeurIPS, 2023
DOI: 10.48550/ARXIV.2309.16928

Is Mamba Capable of In-Context Learning?

Autoren: Riccardo Grazzi, Julien Niklas Siems, Simon Schrodi, Thomas Brox, Frank Hutter
Veröffentlicht in: AutoML24
Herausgeber: AutoML24
DOI: 10.48550/ARXIV.2402.03170

Harms from Increasingly Agentic Algorithmic Systems

Autoren: Alan Chan, Rebecca Salganik, Alva Markelius, Chris Pang, Nitarshan Rajkumar, Dmitrii Krasheninnikov, Lauro Langosco, Zhonghao He, Yawen Duan, Micah Carroll, Michelle Lin, Alex Mayhew, Katherine Collins, Maryam Molamohammadi, John Burden, Wanru Zhao, Shalaleh Rismani, Konstantinos Voudouris, Umang Bhatt, Adrian Weller, David Krueger, Tegan Maharaj
Veröffentlicht in: 2023 ACM Conference on Fairness Accountability and Transparency, 2025
Herausgeber: ACM
DOI: 10.1145/3593013.3594033

FeedbackLogs: Recording and Incorporating Stakeholder Feedback into Machine Learning Pipelines

Autoren: Matthew Barker, Emma Kallina, Dhananjay Ashok, Katherine M. Collins, Ashley Casovan, Adrian Weller, Ameet Talwalkar, Valerie Chen, Umang Bhatt
Veröffentlicht in: ISSN 2307-15475
Herausgeber: ACM
DOI: 10.48550/ARXIV.2307.15475

Unmasking Anomalies in Road-Scene Segmentation

Autoren: Shyam Nandan Rai , Fabio Cermelli, Dario Fontanel, Carlo Masone, Barbara Caputo
Veröffentlicht in: IEEE Internationa Conference on Computer Vision (ICCV) 2023, 2023
Herausgeber: ICCV
DOI: 10.1109/ICCV51070.2023.00373

ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models

Autoren: Yugeng Liu, Rui Wen, Xinlei He, Ahmed Salem, Zhikun Zhang, Michael Backes, Emiliano De Cristofaro, Mario Fritz, Yang Zhang
Veröffentlicht in: USENIX Security Symposium (USENIX Security), 2022
Herausgeber: USENIX
DOI: 10.48550/ARXIV.2102.02551

Certified Robust Models with Slack Control and Large Lipschitz Constants Proceedings Article

Autoren: Max Losch, David Stutz, Bernt Schiele, Mario Fritz
Veröffentlicht in: DAGM German Conference on Pattern Recognition (GCPR), 2023.
Herausgeber: DAGM
DOI: 10.48550/ARXIV.2309.06166

Safety is Essential for Responsible Open-Ended Systems

Autoren: Ivaxi Sheth, Jan Wehner, Sahar Abdelnabi, Ruta Binkyte, Mario Fritz
Herausgeber: ICLR2025
DOI: 10.48550/ARXIV.2502.04512

Improving Fairness via Intrinsic Plasticity in Echo State Networks

Autoren: Ceni, A. and Bacciu, D. and De Caro, V. and Gallicchio, C. and Oneto, L.
Veröffentlicht in: European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN), 2023, ISBN 978-2-87587-088-9
Herausgeber: ESANN
DOI: 10.14428/esann/2023.ES2023-90

Towards interpretable-by-design deep learning algorithms

Autoren: Plamen Angelov, Dmitry Kangin, Ziyang Zhang
Veröffentlicht in: UNDER REVIEW, ISSN 2311-11396
Herausgeber: N/A
DOI: 10.48550/ARXIV.2311.11396

FAST: Boosting Uncertainty-based Test Prioritization Methods for Neural Networks via Feature Selection (CWZS24)

Autoren: Jialuo Chen, Jingyi Wang, Xiyue Zhang, Youcheng Sun, Marta Kwiatkowska, Jiming Chen, Peng Cheng
Veröffentlicht in: 39th IEEE/ACM International Conference on Automated Software Engineering (ASE 2024)., 2024
Herausgeber: IEEE
DOI: 10.48550/ARXIV.2409.09130

Comparing Abstraction in Humans and Large Language Models Using Multimodal Serial Reproduction.

Autoren: S. Kumar, R. Marjieh, B. Zhang, D. Campbell, M. Hu, U. Bhatt, B. Lake and T. Griffiths.
Veröffentlicht in: Conference of the Cognitive Science Society (CogSci) 2024
Herausgeber: CogSci 2024
DOI: 10.48550/ARXIV.2402.03618

Collaborative Learning via Prediction Consensus

Autoren: Dongyang Fan, Celestine Mendler-Dünner, Martin Jaggi
Veröffentlicht in: ISSN 2305-18497
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2305.18497

DRCFS: Doubly Robust Causal Feature Selection

Autoren: Francesco Quinzan, Ashkan Soleymani, Patrick Jaillet, Cristian R. Rojas, Stefan Bauer
Veröffentlicht in: ICML 2023: Fortieth International Conference on Machine Learning, 2023
Herausgeber: JMLR.org
DOI: 10.48550/arXiv.2306.07024

Tell Me What You Like and I Know What You Will Share: Topical Interest Influences Behavior Toward News From High and Low Credible Sources

Autoren: Rebecca Weil; Sahar Abdelnabi; Mario Fritz; Rakibul Hasan
Veröffentlicht in: European Symposium on Security and Privacy Workshops
Herausgeber: EuroS&PW
DOI: 10.1109/EUROSPW61312.2024.00062

Learning Personalized Decision Support Policies

Autoren: Umang Bhatt, Valerie Chen, Katherine M. Collins, Parameswaran Kamalaruban, Emma Kallina, Adrian Weller, Ameet Talwalkar
Veröffentlicht in: Association for the Advancement of Artificial Intelligence Conference on Artificial Intelligence
Herausgeber: AAAI 2025
DOI: 10.48550/ARXIV.2304.06701

LLM2Swarm: Robot Swarms that Responsively Reason, Plan, and Collaborate through LLMs

Autoren: Volker Strobel, Marco Dorigo, Mario Fritz
Veröffentlicht in: NeurIPS 2024 Workshop on Open-World Agents
Herausgeber: NeurIPS 2024
DOI: 10.48550/ARXIV.2410.11387

Data Drift in Android Malware Detection

Autoren: Luca Minnei, Hicham Eddoubi, Angelo Sotgiu, Maura Pintor, Ambra Demontis, Battista Biggio
Veröffentlicht in: 2024 International Conference on Machine Learning and Cybernetics (ICMLC), 2025
Herausgeber: IEEE
DOI: 10.1109/ICMLC63072.2024.10935015

Adversarial Attacks Against Uncertainty Quantification

Autoren: Emanuele Ledda, Daniele Angioni, Giorgio Piras, Giorgio Fumera, Battista Biggio, Fabio Roli;
Veröffentlicht in: Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV) Workshops, 2023
Herausgeber: ICCV
DOI: 10.48550/ARXIV.2309.10586

LLMs on interactive feature collections with implicit dynamic decision strategy

Autoren: Juyeon Heo, Vihari Piratla, Kyunghyun Lee, Hyonkeun Joh, Adrian Weller
Veröffentlicht in: Proceedings of the 31st International Conference on Computational Linguistics
Herausgeber: International Conference on Computational Linguistics

The Unreasonable Effectiveness of Pre-Trained Features for Camera Pose Refinement

Autoren: Gabriele Trivigno; Carlo Masone; Barbara Caputo; Torsten Sattler
Veröffentlicht in: 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)
Herausgeber: IEEE
DOI: 10.48550/ARXIV.2404.10438

Modulating Language Model Experiences through Frictions

Autoren: Katherine M. Collins, Valerie Chen, Ilia Sucholutsky, Hannah Rose Kirk, Malak Sadek, Holli Sargeant, Ameet Talwalkar, Adrian Weller, Umang Bhatt
Veröffentlicht in: Neural Information Processing Systems (NeurIPS 2024) Workshop on Behavioral Machine Learning
Herausgeber: Neural Information Processing Systems (NeurIPS 2024) Workshop on Behavioral Machine Learning
DOI: 10.48550/ARXIV.2407.12804

ProtoMedX: Towards Explainable Multi-Modal Prototype Learning for Bone Health Classification, I

Autoren: A Lopez Pellicer, A Mariucci, P Angelov, M Bukhari, JG Kerns
Veröffentlicht in: ICCV 2025
Herausgeber: ICCV 2025

"""Reliability in Semantic Segmentation: Can We Use Synthetic Data? """

Autoren: Thibaut Loiseau, Tuan-Hung Vu, Mickael Chen, Patrick Pérez, Matthieu Cord
Veröffentlicht in: European Conference on Computer Vision (ECCV) 2024, 2024
Herausgeber: European Conference on Computer Vision (ECCV) 2024
DOI: 10.48550/ARXIV.2312.09231

Multitask Online Learning: Listen to the Neighborhood Buzz

Autoren: Juliette Achddou, Nicolò Cesa-Bianchi, Pierre Laforgue
Veröffentlicht in: Artificial Intelligence and Statistics 2024, ISSN 2310-17385
Herausgeber: PMLR Conference Proceedings
DOI: 10.48550/ARXIV.2310.17385

Fuzzy Detectors Against Adversarial Attacks

Autoren: Y. Li, P. Angelov, N. Suri
Veröffentlicht in: IEEE Symposium Series on Computational Intelligence, 2023
Herausgeber: IEEE Symposium Series on Computational Intelligence

Efficient Certified Training and Robustness Verification of Neural ODEs

Autoren: Mustafa Zeqiri, Mark Niklas Müller, Marc Fischer, Martin Vechev
Veröffentlicht in: ICLR, ISSN 2303-05246
Herausgeber: ICLR

Generating Scenarios from High-Level Specifications for Object Rearrangement Tasks

Autoren: Sanne van Waveren, Christian Pek , Iolanda Leite, Jana Tumova, Danica Kragic
Veröffentlicht in: 2023 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), ISSN 2023-0816
Herausgeber: IEEE
DOI: 10.1109/IROS55552.2023.10341369

Large Class Separation is Not What You Need for Relational Reasoning-Based OOD Detection

Autoren: Lorenzo Li Lu, Giulia D’Ascenzi, Francesco Cappio Borlino & Tatiana Tommasi
Veröffentlicht in: International Conference on Image Analysis and Processing (ICIAP) 2023, ISBN 978-3-031-43153-1
Herausgeber: ICIAP
DOI: 10.1007/978-3-031-43153-1_25

Explainable Audio-Visual Representation Learning via Prototypical Contrastive Masked Autoencoder

Autoren: Y. Li, P. Angelov
Veröffentlicht in: Advances in neural information processing systems
Herausgeber: Advances in neural information processing systems

Towards Biologically Plausible and Private Gene Expression Data Generation Proceedings Article

Autoren: Dingfan Chen, Marie Oestreich, Tejumade Afonja, Raouf Kerkouche, Matthias Becker, Mario Fritz
Veröffentlicht in: The 24th Privacy Enhancing Technologies Symposium, 2024.
Herausgeber: Privacy Enhancing Technologies Symposium
DOI: 10.48550/ARXIV.2402.04912

EarthMatch: Iterative Coregistration for Fine-grained Localization of Astronaut Photography

Autoren: Gabriele Berton, Gabriele Goletto, Gabriele Trivigno, Alex Stoken, Barbara Caputo, Carlo Masone
Veröffentlicht in: 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), 2024
Herausgeber: IEEE
DOI: 10.1109/CVPRW63382.2024.00430

Towards More Robust Interpretation via Local Gradient Alignment

Autoren: S. Joo, S. Jeong, J. Heo, A. Weller and T. Moon.
Veröffentlicht in: Association for the Advancement of Artificial Intelligence Conference on Artificial Intelligence
Herausgeber: AAAI 2023
DOI: 10.1609/AAAI.V37I7.25986

Establishing the Price of Privacy in Federated Data Trading

Autoren: Kangsoo Jung, Sayan Biswas, Catuscia Palamidessi
Veröffentlicht in: ISSN 2111-15415
Herausgeber: PLS
DOI: 10.48550/ARXIV.2111.15415

Federated Document Visual Question Answering: A Pilot Study

Autoren: Khanh Nguyen, Dimosthenis Karatzas
Veröffentlicht in: ICDAR 2024
Herausgeber: ICDAR 2024
DOI: 10.48550/ARXIV.2405.06636

The Role of Transparency in Repeated First-Price Auctions with Unknown Valuations

Autoren: Nicolò Cesa-Bianchi, Tommaso Cesari, Roberto Colomboni, Federico Fusco, Stefano Leonardi
Veröffentlicht in: STOC 2024 - 56th ACM Symposium on Theory of Computing, ISSN 2307-09478
Herausgeber: ACM Press
DOI: 10.1145/3618260.3649658

Certification of Distributional Individual Fairness

Autoren: M. Wicker, V. Piratla and A. Weller.
Veröffentlicht in: Neural Information Processing Systems (NeurIPS), 2023.
Herausgeber: NeurIPS 2023
DOI: 10.48550/ARXIV.2311.11911

MaxInfoRL: Boosting exploration in reinforcement learning through information gain maximization

Autoren: Bhavya Sukhija, Stelian Coros, Andreas Krause, Pieter Abbeel, Carmelo Sferrazza
Veröffentlicht in: ICLR 2025
Herausgeber: ICLR 2025

Poster: Protection against Source Inference Attacks in Federated Learning using Unary Encoding and Shuffling

Autoren: Andreas Athanasiou, Kangsoo Jung, Catuscia Palamidessi
Veröffentlicht in: Proceedings of the 2024 on ACM SIGSAC Conference on Computer and Communications Security, 2025
Herausgeber: ACM
DOI: 10.1145/3658644.3691411

Unsupervised Domain Adaptation within Deep Foundation Latent Spaces

Autoren: Dmitry Kangin, Plamen Angelov
Veröffentlicht in: 2nd Workshop on Workshop on Mathematical and Empirical Understanding of Foundation Models
Herausgeber: ICLR-2024
DOI: 10.48550/ARXIV.2402.14976FOCUSTOLEARNMORE

Confidential-PROFITT: Confidential PROof of FaIr Training of Trees

Autoren: Ali Shahin Shamsabadi, Sierra Calanda Wyllie, Nicholas Franzese, Natalie Dullerud, Sébastien Gambs, Nicolas Papernot, Xiao Wang, Adrian Weller
Veröffentlicht in: The Eleventh International Conference on Learning Representations
Herausgeber: Conference on Learning Representations

CodeLMSec Benchmark: Systematically Evaluating and Finding Security Vulnerabilities in Black-Box Code Language Models

Autoren: Hossein Hajipour, Keno Hassler, Thorsten Holz, Lea Schönherr, Mario Fritz
Veröffentlicht in: 2nd IEEE Conference on Secure and Trustworthy Machine Learning (SATML), 2024
Herausgeber: SATML
DOI: 10.48550/ARXIV.2302.04012

Evaluating the Evaluators: Trust in Adversarial Robustness Tests

Autoren: Antonio Emanuele Cinà, Maura Pintor, Luca Demetrio, Ambra Demontis, Battista Biggio, Fabio Roli
Herausgeber: Ital-IA

Cybersecurity and AI: The PRALab Research Experience

Autoren: Maura Pintor, Giulia Orrù, Davide Maiorca, Ambra Demontis, Luca Demetrio, Gian Luca Marcialis, Battista Biggio, Fabio Roli
Veröffentlicht in: 3rd National Conference on Artificial Intelligence, 2023
Herausgeber: National Conference on Artificial Intelligence

Machine learning within latent spaces formed by foundation models

Autoren: B Tomczyk, P Angelov, D Kangin
Veröffentlicht in: 2024 IEEE 12th International Conference on Intelligent Systems (IS), ISSN 2767-9802
Herausgeber: IEEE

Large Language Models Must Be Taught What They Don’t know

Autoren: Sanyam Kapoor, Nate Gruver, Manley Roberts, Katherine Collins, Arka Pal, Umang Bhatt, Adrian Weller, Samuel Dooley, Micah Goldblum, Andrew Gordon Wilson
Veröffentlicht in: Conference on Neural Information Processing Systems (NeurIPS 2024).
Herausgeber: NeurIPS 2024
DOI: 10.48550/ARXIV.2406.08391

CoTFormer: More Tokens With Attention Make Up For Less Depth

Autoren: Amirkeivan Mohtashami, Matteo Pagliardini, Martin Jaggi
Veröffentlicht in: ISSN 2310-10845
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2310.10845

Positive-Augmented Contrastive Learning for Image and Video Captioning Evaluation

Autoren: Sara Sarto, Manuele Barraco, Marcella Cornia, Lorenzo Baraldi, Rita Cucchiara
Herausgeber: CVPR
DOI: 10.48550/ARXIV.2303.12112

Prototype-Based Continual Learning with Label-free Replay Buffer and Cluster Preservation Loss,

Autoren: A Aghasanli, Y Li, P Angelov,
Veröffentlicht in: Proceedings of the Computer Vision and Pattern Recognition Conference
Herausgeber: Computer Vision Foundation

A Bias-Variance Decomposition for Ensembles over Multiple Synthetic Datasets

Autoren: Ossi Räisä, Antti Honkela
Veröffentlicht in: AISTATS 2025, 2025
Herausgeber: AISTATS 2025
DOI: 10.48550/ARXIV.2402.03985

Adapt to Scarcity: Few-Shot Deepfake Detection via Low-Rank Adaptation

Autoren: Silvia Cappelletti, Lorenzo Baraldi, Federico Cocchi, Marcella Cornia, Lorenzo Baraldi, Rita Cucchiara
Veröffentlicht in: Lecture Notes in Computer Science, Pattern Recognition, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-78305-0_8

Expressivity of ReLU-Networks under Convex Relaxations

Autoren: Maximilian Baader, Mark Niklas Müller, Yuhao Mao, Martin Vechev
Veröffentlicht in: ICLR'24, 2023
Herausgeber: ICLR
DOI: 10.48550/arXiv.2311.04015

Actsafe: Active exploration with safety constraints for reinforcement learning

Autoren: As, Yarden and Sukhija, Bhavya and Treven, Lenart and Sferrazza, Carmelo and Coros, Stelian and Krause, Andreas
Veröffentlicht in: ICLR 2025
Herausgeber: ICLR 2025

Adversarial Causal Bayesian Optimization

Autoren: S. Sussex, P. G. Sessa, A. Makarova, A. Krause
Veröffentlicht in: International Conference on Learning Representations (ICLR), 2023
Herausgeber: ICLR
DOI: 10.48550/arXiv.2307.16625

Pixel-level Certified Explanations via Randomized Smoothing

Autoren: Alaa Anani, Tobias Lorenz, Mario Frityz, Bernt Schiele
Herausgeber: International Conference on Machine Learning (ICML)

Hypothesizing Missing Causal Variables with LLMs

Autoren: Ivaxi Sheth; Sahar Abdelnabi; Mario Fritz
Veröffentlicht in: NeurIPS 2024 Workshop on Causality and Large Models (CaLM).
Herausgeber: NeurIPS 2024 Workshop on Causality and Large Models (CaLM).
DOI: 10.48550/ARXIV.2409.02604

STEP - Towards Structured Scene-Text Spotting

Autoren: Sergi Garcia-Bordils, Dimosthenis Karatzas, Marçal Rusiñol
Veröffentlicht in: Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision, 2024, ISSN 2309-02356
Herausgeber: IEEE Xplore
DOI: 10.1109/WACV57701.2024.00093

Dataset and Lessons Learned from the 2024 SaTML LLM Capture-the-Flag Competition

Autoren: Edoardo Debenedetti; Javier Rando; Daniel Paleka; Fineas Silaghi; Dragos Albastroiu; Niv Cohen; Yuval Lemberg; Reshmi Ghosh; Rui Wen; Ahmed Salem; Giovanni Cherubin;
Veröffentlicht in: 2024
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2406.07954

Certifiers Make Neural Networks Vulnerable to Availability Attacks

Autoren: Tobias Lorenz, Marta Kwiatkowska, Mario Fritz
Veröffentlicht in: 16th ACM Workshop on Artificial Intelligence and Security (AISec 2023, ISSN 2300-5963
Herausgeber: Association for Computing Machinery
DOI: 10.48550/ARXIV.2108.11299

Irreducible Curriculum for Language Model Pretraining

Autoren: Simin Fan, Martin Jaggi
Veröffentlicht in: ISSN 2310-15389
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2310.15389

How to Probe: Simple Yet Effective Techniques for Improving Post-hoc Explanations

Autoren: Siddhartha Gairola, Moritz Böhle, Francesco Locatello, and Bernt Schiele
Veröffentlicht in: International Conference on Learning Representations
Herausgeber: International Conference on Learning Representations

AI Security and Safety: The PRALab Research Experience

Autoren: Ambra Demontis, Maura Pintor, Luca Demetrio, Angelo Sotgiu, Daniele Angioni, Giorgio Piras, Srishti Gupta, Battista Biggio and Fabio Roli
Veröffentlicht in: Ital-IA 2023
Herausgeber: Ital-IA 2023

Finding Lottery Tickets in Vision Models via Data-driven Spectral Foresight Pruning

Autoren: Leonardo Iurada, Marco Ciccone, Tatiana Tommasi
Veröffentlicht in: IEEE CVPR 2024, 2024
Herausgeber: IEEE CVPR 2024

Iterative Teaching by Data Hallucination

Autoren: Z. Qiu, W. Liu, T. Xiao, Z. Liu, U. Bhatt, Y. Luo, A. Weller and B. Schölkopf.
Veröffentlicht in: International Conference on Artificial Intelligence and Statistics (AISTATS), 2023.
Herausgeber: AISTATS 2023
DOI: 10.48550/ARXIV.2210.17467

Faster Causal Attention Over Large Sequences Through Sparse Flash Attention

Autoren: Matteo Pagliardini, Daniele Paliotta, Martin Jaggi, François Fleuret
Veröffentlicht in: ISSN 2306-01160
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2306.01160

Let's ViCE! Mimicking Human Cognitive Behavior in Image Generation Evaluation

Autoren: Federico Betti, Jacopo Staiano, Lorenzo Baraldi, Lorenzo Baraldi, Rita Cucchiara, Nicu Sebe
Herausgeber: ACM MM
DOI: 10.48550/ARXIV.2307.09416

Certified Training: Small Boxes are All You Need

Autoren: Mark Niklas Müller, Franziska Eckert, Marc Fischer, Martin Vechev
Veröffentlicht in: ICLR (Spotlight), ISSN 2210-04871
Herausgeber: ICLR
DOI: 10.48550/ARXIV.2210.04871

Private Set Generation with Discriminative Information

Autoren: Dingfan Chen, Raouf Kerkouche, Mario Fritz
Veröffentlicht in: Neural Information Processing Systems (NeurIPS), 2022
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2211.04446

SecurityNet: Assessing Machine Learning Vulnerabilities on Public Models

Autoren: Boyang Zhang, Zheng Li, Ziqing Yang, Xinlei He, Michael Backes, Mario Fritz, Yang Zhang
Veröffentlicht in: USENIX Security Symposium (USENIX), 2024
Herausgeber: USENIX
DOI: 10.5555/3698900.3699117

Robust Self-Supervised Learning for Adversarial Attack Detection

Autoren: Y. Li, P. Angelov, N. Suri
Veröffentlicht in: Advances in neural information processing systems
Herausgeber: Advances in neural information processing systems

Noise-Aware Differentially Private Variational Inference

Autoren: Talal Alrawajfeh, Joonas Jälkö, Antti Honkela
Veröffentlicht in: AISTATS 2025, 2025
Herausgeber: AISTATS 2025
DOI: 10.48550/ARXIV.2410.19371

Mitigating Unfair Regression in Machine Learning Model Updates

Autoren: Irene Buselli, Anna Pallarès López, Eduard Martín Jiménez, Davide Anguita, Fabio Roli, Luca Oneto
Veröffentlicht in: 2024 International Conference on Machine Learning and Applications (ICMLA), 2025
Herausgeber: IEEE
DOI: 10.1109/ICMLA61862.2024.00289

A Simple Recipe for Language-guided Domain Generalized Segmentation

Autoren: Mohammad Fahes, Tuan-Hung Vu, Andrei Bursuc, Patrick Pérez, Raoul de Charette
Veröffentlicht in: IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2024, 2024, ISSN 2311-17922
Herausgeber: IEEE/CVF
DOI: 10.48550/arXiv.2311.17922

FLOSS: Free Lunch in Open-vocabulary Semantic Segmentation

Autoren: Yasser Benigmim, Mohammad Fahes, Tuan-Hung Vu, Andrei Bursuc, Raoul de Charette
Veröffentlicht in: International Conference on Computer Vision, ICCV 2025
Herausgeber: International Conference on Computer Vision, ICCV 2025

When to Trust AI: Advances and Challenges for Certification of Neural Networks

Autoren: Marta Kwiatkowska, Xiyue Zhang
Veröffentlicht in: Proceedings of the 18th Conference on Computer Science and Intelligence Systems (FedCSIS 2023), ISSN 2309-11196
Herausgeber: Polish Information Processing Society

Geometric Multimodal Contrastive Representation Learning

Autoren: Petra Poklukar, Miguel Vasco, Hang Yin, Francisco S. Melo, Ana Paiva, Danica Kragic
Herausgeber: ICML 22

Learning Safety Constraints for Large Language Models

Autoren: Xin Chen and Yarden As and Andreas Krause
Veröffentlicht in: ICML 2025
Herausgeber: ICML 2025

Vision-Based Landing Guidance Through Tracking and Orientation Estimation

Autoren: João P. K. Ferreira, João P. Pinto, Júlia Moura, Yi Li, Cristiano L. Castro, Plamen Angelov
Veröffentlicht in: 2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 2025
Herausgeber: IEEE
DOI: 10.1109/WACV61041.2025.00937

Synthcap: Augmenting transformers with synthetic data for image captioning

Autoren: Caffagni, D., Barraco, M., Cornia, M., Baraldi, L., Cucchiara, R
Veröffentlicht in: International Conference on Image Analysis and Processing (ICIAP), 2023
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-43148-7_10

Efficient Robustness Verification of Neural Ordinary Differential Equations

Autoren: Mustafa Zeqiri, Mark Niklas Müller, Marc Fischer, Martin Vechev
Veröffentlicht in: The Symbiosis of Deep Learning and Differential Equations II
Herausgeber: The Symbiosis of Deep Learning and Differential Equations II

Puppeteer your robot: Augmented reality leader-follower teleoperation

Autoren: Jonne Van Haastregt, Michael C Welle, Yuchong Zhang, Danica Kragic
Veröffentlicht in: 2024 IEEE-RAS 23rd International Conference on Humanoid Robots (Humanoids)
Herausgeber: IEEE
DOI: 10.48550/ARXIV.2407.11741

Can LLMs Separate Instructions From Data? And What Do We Even Mean By That?

Autoren: Egor Zverev, Sahar Abdelnabi, Mario Fritz, Christoph H. Lampert
Veröffentlicht in: ICLR 2024 Workshop on Secure and Trustworthy Large Language Models
Herausgeber: ICLR
DOI: 10.48550/ARXIV.2403.06833

Learning Decision Policies with Instrumental Variables through Double Machine Learning

Autoren: Daqian Shao, Ashkan Soleymani, Francesco Quinzan, Marta Kwiatkowska
Veröffentlicht in: Forty-first International Conference on Machine Learning
Herausgeber: ICML 2024

Stealthy imitation: reward-guided environment-free policy stealing

Autoren: Zhixiong Zhuang; Maria-Irina Nicolae; Mario Fritz
Veröffentlicht in: ICML'24: Proceedings of the 41st International Conference on Machine Learning
Herausgeber: ICML'24: Proceedings of the 41st International Conference on Machine Learning
DOI: 10.5555/3692070.3694664

The Progression of Disparities within the Criminal Justice System: Differential Enforcement and Risk Assessment Instruments.

Autoren: Miri Zilka, Riccardo Fogliato, Jiri Hron, Bradley Butcher, Carolyn Ashurst, Adrian Weller
Veröffentlicht in: ACM Conference on Fairness, Accountability and Transparency (FAccT), 2023.
Herausgeber: ACM Digital Library
DOI: 10.1145/3593013.3594099

PØDA: Prompt-driven Zero-shot Domain Adaptation

Autoren: Mohammad Fahes, Tuan-Hung Vu, Andrei Bursuc, Patrick Pérez, Raoul de Charette
Veröffentlicht in: IEEE/CVF International Conference on Computer Vision (ICCV) 2023, 2023
Herausgeber: IEEE/CVF
DOI: 10.1109/ICCV51070.2023.01707

TAPS: Connecting Certified and Adversarial Training

Autoren: Yuhao Mao, Mark Niklas Müller, Marc Fischer, Martin Vechev
Veröffentlicht in: NeurIPS'23
Herausgeber: NeurIPS'23
DOI: 10.48550/ARXIV.2305.04574

Nonsmooth Implicit Differentiation: Deterministic and Stochastic Convergence Rates

Autoren: Riccardo Grazzi; Saverio Salzo; Massimiliano Pontil
Veröffentlicht in: Journal Of Machine Learning Research, 2024, ISSN 2403-11687
Herausgeber: Journal Of Machine Learning Research
DOI: 10.48550/arXiv.2403.11687

Lost in translation: the troubling logics underpinning the embrace of governmental machine-learning based prediction tools for ‘citizen scoring’

Autoren: Karen Yeung
Veröffentlicht in: Global Governance by Data
Herausgeber: Cambridge University Press
DOI: 10.2139/SSRN.4651480

Cooperation, Competition, and Maliciousness: LLM-Stakeholders Interactive Negotiation

Autoren: Sahar Abdelnabi, Amr Gomaa, Sarath Sivaprasad, Lea Schönherr, Mario Fritz
Veröffentlicht in: NeurIPS - Datasets and Benchmarks'24
Herausgeber: NeurIPS - Datasets and Benchmarks'24
DOI: 10.48550/ARXIV.2309.17234

Optimising for Interpretability: Convolutional Dynamic Alignment Networks

Autoren: Moritz Böhle, Mario Fritz, Bernt Schiele
Veröffentlicht in: Transactions on Pattern Analysis and Machine Intelligence (TPAMI), vol. 45, no. 6, pp. 7625–7638, 2023.
Herausgeber: TPAMI
DOI: 10.48550/ARXIV.2109.13004

An Empirical Study of Over-Parameterized Neural Models based on Graph Random Features

Autoren: Navarin, N. and Pasa, L. and Oneto, L. and Sperduti, A.
Veröffentlicht in: European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN), ISBN 978-2-87587-088-9
Herausgeber: ESANN
DOI: 10.14428/ESANN/2023.ES2023-145

Unlocking State-Tracking in Linear RNNs Through Negative Eigenvalues

Autoren: Riccardo Grazzi, Julien Siems, Arber Zela, Jörg K.H. Franke, Frank Hutter, Massimiliano Pontil.
Veröffentlicht in: Proceedings of the International Conference on Learning Representations, 2025
Herausgeber: ICLR 2025

Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems Proceedings Article

Autoren: Sahar Abdelnabi, Mario Fritz
Veröffentlicht in: USENIX Security Symposium (USENIX Security)}, 2023
Herausgeber: USENIX
DOI: 10.48550/ARXIV.2209.03755

Interpretable-through-prototypes deepfake detection for diffusion models

Autoren: Agil Aghasanli; Dmitry Kangin; Plamen Angelov
Veröffentlicht in: 2023 IEEE/CVF International Conference on Computer Vision Workshops (ICCVW), ISSN 2473-9944
Herausgeber: IEEE
DOI: 10.1109/ICCVW60793.2023.00053

Tight Differential Privacy Guarantees for the Shuffle Model with k-Randomized Response

Autoren: Sayan Biswas, Kangsoo Jung, Catuscia Palamidessi
Veröffentlicht in: ISSN 2205-08858
Herausgeber: Foundations & Practice of Security Symposium, FPS 2023.
DOI: 10.1007/978-3-031-57537-2_27

Understanding Certified Training with Interval Bound Propagation

Autoren: Yuhao Mao, Mark Niklas Müller, Marc Fischer, Martin Vechev
Veröffentlicht in: ICLR, ISSN 2306-10426
Herausgeber: ICLR
DOI: 10.48550/ARXIV.2306.10426

Parents and Children: Distinguishing Multimodal DeepFakes from Natural Images

Autoren: Roberto Amoroso, Davide Morelli, Marcella Cornia, Lorenzo Baraldi, Alberto Del Bimbo, Rita Cucchiara
Veröffentlicht in: ISSN 2304-00500
Herausgeber: UNDER REVIEW ACM TOMM
DOI: 10.48550/ARXIV.2304.00500

Rethinking Self-supervised Learning for Cross-domain Adversarial Sample Recovery

Autoren: Yi Li, Plamen Angelov, Neeraj Suri
Veröffentlicht in: ISSN 2161-4393
Herausgeber: IJCNN 2024
DOI: 10.1109/IJCNN60899.2024.10650687

Machine Unlearning for Document Classification

Autoren: Lei Kang, Mohamed Ali Souibgui, Fei Yang, Lluis Gomez, Ernest Valveny, Dimosthenis Karatzas
Veröffentlicht in: ICDAR 2024
Herausgeber: ICDAR 2024
DOI: 10.48550/ARXIV.2404.19031

FLoRA: Sample-Efficient Preference-based RL via Low-Rank Style Adaptation of Reward Functions

Autoren: Daniel Marta, Simon Holk, Miguel Vasco, Jens Lundell, Timon Homberger, Finn Busch, Olov Andersson, Danica Kragic, Iolanda Leite
Veröffentlicht in: 2025 International Conference on Robotics and Automation, 2025
Herausgeber: IEEE

Cooperative online learning with feedback graphs

Autoren: Nicolò Cesa-Bianchi, Tommaso Cesari, and Riccardo Della Vecchia
Veröffentlicht in: Transactions on Machine Learning Research (06/2024), 2024
Herausgeber: Transactions on Machine Learning Research (06/2024)

On the informativeness of supervision signals

Autoren: Ilia Sucholutsky, Ruairidh M. Battleday, Katherine M. Collins, Raja Marjieh, Joshua Peterson, Pulkit Singh, Umang Bhatt, Nori Jacoby, Adrian Weller, Thomas L. Griffiths
Veröffentlicht in: roceedings of the Thirty-Ninth Conference on Uncertainty in Artificial Intelligence,, ISSN 2036-2046
Herausgeber: PMLR

Robust Meta-Representation Learning via Global Label Inference and Classification

Autoren: Ruohan Wang, Isak Falk, Massimiliano Pontil, Carlo Ciliberto
Veröffentlicht in: 2023
Herausgeber: IEEE Transactions on Pattern Analysis and Machine Intelligence
DOI: 10.1109/TPAMI.2023.3328184

Noise-Aware Statistical Inference with Differentially Private Synthetic Data

Autoren: Ossi Räisä, Joonas Jälkö, Samuel Kaski, Antti Honkela
Veröffentlicht in: PMLR, ISSN 2205-14485
Herausgeber: PMLR

SimSCOOD: Systematic Analysis of Out-of-Distribution Generalization in Fine-tuned Source Code Models

Autoren: Hossein Hajipour; Ning Yu; Cristian-Alexandru Staicu; Mario Fritz
Veröffentlicht in: Findings of the Association for Computational Linguistics: NAACL 2024, 2024.
Herausgeber: NAACL
DOI: 10.18653/V1/2024.FINDINGS-NAACL.90

PUDD: Towards Robust Multi-modal Prototype-based Deepfake Detection

Autoren: A. L. Pellicer, Y. Li, P. Angelov
Veröffentlicht in: IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshop (CVPRW)
Herausgeber: IEEE

Fast Feature Selection with Fairness Constraints

Autoren: Francesco Quinzan, Rajiv Khanna, Moshik Hershcovitch, Sarel Cohen, Daniel Waddington, Tobias Friedrich and Michael W. Mahoney
Veröffentlicht in: 2nd Workshop on Formal Verification of Machine Learning (WFVML 2023), ISSN 2202-13718
Herausgeber: PMLR
DOI: 10.48550/ARXIV.2202.13718

Adversarial Robustness Certification for Bayesian Neural Networks

Autoren: Matthew Wicker, Andrea Patane, Luca Laurenti, Marta Kwiatkowska
Veröffentlicht in: Lecture Notes in Computer Science
Herausgeber: Lecture Notes in Computer Science
DOI: 10.1007/978-3-031-71162-6_1

Use perturbations when learning from explanations

Autoren: Juyeon Heo, Vihari Piratla, Matthew Wicker, Adrian Weller
Herausgeber: NEURIPS

FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations

Autoren: Hui-Po Wang, Dingfan Chen, Raouf Kerkouche, Mario Fritz
Herausgeber: To appear at PETS’24
DOI: 10.48550/ARXIV.2302.01068

Efficient Model Editing with Task-Localized Sparse Fine-tuning

Autoren: Leonardo Iurada, Marco Ciccone, Tatiana Tommasi
Veröffentlicht in: International Conference on Learning Representations
Herausgeber: International Conference on Learning Representations

Multi-Page Document Visual Question Answering using Self-Attention Scoring Mechanism

Autoren: Lei Kang, Rubèn Tito, Ernest Valveny, Dimosthenis Karatzas
Veröffentlicht in: ICDAR 2024
Herausgeber: ICDAR 2024
DOI: 10.48550/ARXIV.2404.19024

Complex-Cycle-Consistent Diffusion Model for Monaural Speech Enhancement

Autoren: Y. Li, Y. Sun, P. Angelov
Veröffentlicht in: AAAI Conference on Artificial Intelligence
Herausgeber: AAAI Conference on Artificial Intelligence
DOI: 10.48550/ARXIV.2412.08856

Imitation or Innovation? Translating Features of Expressive Motion from Humans to Robots

Autoren: Benedikte Wallace, Marieke van Otterdijk, Yuchong Zhang, Nona Rajabi, Diego Marin-Bucio, Danica Kragic, Jim Torresen
Veröffentlicht in: Proceedings of the 12th International Conference on Human-Agent Interaction, 2025
Herausgeber: ACM
DOI: 10.1145/3687272.3688302

Language Models as Zero-shot Lossless Gradient Compressors: Towards General Neural Parameter Prior Models

Autoren: Hui-Po Wang; Mario Fritz
Veröffentlicht in: 38th Conference on Neural Information Processing Systems (NeurIPS 2024)
Herausgeber: NeurIPS 2024
DOI: 10.48550/ARXIV.2409.17836

Mitigating Robustness Bias: Theoretical Results and Empirical Evidences

Autoren: Franco, D. and Oneto, L. and Anguita, D.
Veröffentlicht in: European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN), 2023, ISBN 978-2-87587-088-9
Herausgeber: ESANN
DOI: 10.14428/esann/2023.ES2023-30

Lecture Notes in Computer Science

Autoren: Xiyue Zhang, Benjie Wang, Marta Kwiatkowska
Veröffentlicht in: TACAS 2024, 30th International Conference on Tools and Algorithms for the Construction and Analysis of Systems, 2024, ISSN 0302-9743
Herausgeber: Springer
DOI: 10.48550/arXiv.2305.03686

Confidential-DPproof: Confidential Proof of Differentially Private Training

Autoren: Ali Shahin Shamsabadi, Gefei Tan, Tudor Ioan Cebere, Aurélien Bellet, Hamed Haddadi, Nicolas Papernot, Xiao Wang, Adrian Weller
Veröffentlicht in: International 12th Conference on Learning Representations
Herausgeber: International Conference on Learning Representations

Text-DIAE: A Self-Supervised Degradation Invariant Autoencoder for Text Recognition and Document Enhancement

Autoren: Mohamed Ali Souibgui, Sanket Biswas, Andres Mafla, Ali Furkan Biten, Alicia Fornés, Yousri Kessentini, Josep Lladós, Lluis Gomez, Dimosthenis Karatzas
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 37, 2023, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/AAAI.V37I2.25328

Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection Proceedings Article

Autoren: Kai Greshake, Sahar Abdelnabi, Shailesh Mishra, Christoph Endres, Thorsten Holz, Mario Fritz
Veröffentlicht in: 16th ACM Workshop on Artificial Intelligence and Security (AISec), 2023
Herausgeber: ACM
DOI: 10.48550/ARXIV.2302.12173

Make Me a BNN: A Simple Strategy for Estimating Bayesian Uncertainty from Pre-trained Models

Autoren: Gianni Franchi, Olivier Laurent, Maxence Leguéry, Andrei Bursuc, Andrea Pilzer, Angela Yao
Veröffentlicht in: IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2024, 2024, ISSN 2312-15297
Herausgeber: IEEE/CVF
DOI: 10.48550/arXiv.2312.15297

Human-centered AI Technologies in Human-robot Interaction for Social Settings

Autoren: Yuchong Zhang, Khaled Kassem, Zhengya Gong, Fan Mo, Yong Ma, Emma Kirjavainen, Jonna Häkkilä
Veröffentlicht in: Proceedings of the International Conference on Mobile and Ubiquitous Multimedia, 2025
Herausgeber: ACM
DOI: 10.1145/3701571.3701610

DoGE: Domain Reweighting with Generalization Estimation

Autoren: Simin Fan, Matteo Pagliardini, Martin Jaggi
Veröffentlicht in: ISSN 2310-15393
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2310.15393

MetaMath: Bootstrap Your Own Mathematical Questions for Large Language Models

Autoren: Longhui Yu, Weisen Jiang, Han Shi, Jincheng Yu, Zhengying Liu, Yu Zhang, James T. Kwok, Zhenguo Li, Adrian Weller, Weiyang Liu
Veröffentlicht in: International Conference on Learning Representations (ICLR), 2024
Herausgeber: ICLR 2024

Get my drift? Catching LLM Task Drift with Activation Deltas

Autoren: Sahar Abdelnabi; Aideen Fay; Giovanni Cherubin; Ahmed Salem; Mario Fritz; Andrew Paverd
Veröffentlicht in: IEEE Conference on Secure and Trustworthy Machine Learning (SaTML) , 2025.
Herausgeber: SaTML 2025
DOI: 10.48550/ARXIV.2406.00799

Group Meritocratic Fairness in Linear Contextual Bandits

Autoren: Riccardo Grazzi, Arya Akhavan, John Isak Texas Falk, Leonardo Cella, Massimiliano Pontil
Veröffentlicht in: NeurIPS 2022
Herausgeber: NeurIPS 2022
DOI: 10.48550/ARXIV.2206.03150

ModSec-Learn: Boosting ModSecurity with Machine Learning

Autoren: Christian Scano, Giuseppe Floris, Biagio Montaruli, Luca Demetrio, Andrea Valenza, Luca Compagna, Davide Ariu, Luca Piras, Davide Balzarotti, Battista Biggio
Veröffentlicht in: Lecture Notes in Networks and Systems, Distributed Computing and Artificial Intelligence, Special Sessions I, 21st International Conference, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-76459-2_3

DocVXQA: Context-Aware Visual Explanations for Document Question Answering

Autoren: Mohamed Ali Souibgui, Changkyu Choi, Andrey Barsky, Kangsoo Jung, Ernest Valveny, Dimosthenis Karatzas
Veröffentlicht in: International Conference on Machine Learning
Herausgeber: International Conference on Machine Learning

DocMIA: Document-Level Membership Inference Attacks against DocVQA Models

Autoren: Khanh Nguyen, Raouf Kerkouche, Mario Fritz, Dimosthenis Karatzas
Veröffentlicht in: ICLR 2025
Herausgeber: ICLR 2025

Privacy-Aware Document Visual Question Answering

Autoren: Rubèn Tito, Khanh Nguyen, Marlon Tobaben, Raouf Kerkouche, Mohamed Ali Souibgui, Gangsoo Jung, Joonas Jälkö, Vincent Poulain D'Andecy, Aurelie Joseph, Lei Kang, Ernest Valveny, Antti Honkela, Mario Fritz and Dimosthenis Karatzas
Veröffentlicht in: 18th International Conference on Document Analysis and Recognition, ICDAR 2024
Herausgeber: ICDAR 2024
DOI: 10.48550/ARXIV.2312.10108

Landmark Attention: Random-Access Infinite Context Length for Transformers

Autoren: Amirkeivan Mohtashami, Martin Jaggi
Veröffentlicht in: ISSN 2305-16300
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2305.16300

CoBo: Collaborative Learning via Bilevel Optimization

Autoren: Diba Hashemi, Lie He, Martin Jaggi
Veröffentlicht in: NeurIPS 2024
Herausgeber: NeurIPS 2024

LLM Task Interference: An Initial Study on the Impact of Task-Switch in Conversational History

Autoren: Akash Gupta; Ivaxi Sheth; Vyas Raina; Mark Gales; Mario Fritz
Veröffentlicht in: Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing
Herausgeber: Conference on Empirical Methods in Natural Language Processing
DOI: 10.48550/ARXIV.2402.18216

Transient-Fault-Aware Design and Training to Enhance DNNs Reliability with Zero-Overhead

Autoren: Niccolò Cavagnero; Fernando Dos Santos; Marco Ciccone; Giuseppe Averta; Tatiana Tommasi; Paolo Rech
Veröffentlicht in: 2022 IEEE 28th International Symposium on On-Line Testing and Robust System Design (IOLTS), 2022
Herausgeber: IOLTS
DOI: 10.1109/IOLTS56730.2022.9897813

LFPD: Local-Feature-Powered Defense Against Adaptive Backdoor Attacks

Autoren: Wei Guo, Ambra Demontis, Maura Plntor, Patrick P.K. Chan, Battista Biggio
Veröffentlicht in: 2024 International Conference on Machine Learning and Cybernetics (ICMLC), 2025
Herausgeber: IEEE
DOI: 10.1109/ICMLC63072.2024.10935153

Learning to Generate Training Datasets for Robust Semantic Segmentation

Autoren: Marwane Hariat, Olivier Laurent, Rémi Kazmierczak, Shihao Zhang, Andrei Bursuc, Angela Yao, Gianni Franchi
Veröffentlicht in: IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2024
Herausgeber: IEEE/CVF
DOI: 10.48550/ARXIV.2308.02535

Multi-task representation learning with stochastic linear bandits

Autoren: Leonardo Cella, Karim Lounici, Grégoire Pacreau, Massimiliano Pontil
Veröffentlicht in: AISTATS 2023
Herausgeber: AISTATS 2023

Accelerating Transformer-Based Scene Text Detection and Recognition via Token Pruning

Autoren: S, Garcia-Bordils, D. Karatzas, M. Rusiñol
Veröffentlicht in: Document Analysis and Recognition - ICDAR 2023. ICDAR 2023. Lecture Notes in Computer Science, ISBN 978-3-031-41731-3
Herausgeber: Springer Cham
DOI: 10.1007/978-3-031-41731-3_7

Unveiling the Impact of Image Transformations on Deepfake Detection: An Experimental Analysis

Autoren: Cocchi, Federico; Baraldi, Lorenzo; Poppi, Samuele; Cornia, Marcella; Baraldi, Lorenzo; Cucchiara, Rita
Veröffentlicht in: Proceedings of the 22nd International Conference on Image Analysis and Processing, ISBN 978-3-031-43152-4
Herausgeber: Springer-Verlag
DOI: 10.1007/978-3-031-43153-1_29

CausalGraph2LLM: Evaluating LLMs for Causal Queries

Autoren: Ivaxi Sheth, Bahare Fatemi, Mario Fritz
Veröffentlicht in: NAACL'25
Herausgeber: NAACL'25

NeurIPS 2023 Competition: Privacy Preserving Federated Learning Document VQA

Autoren: Marlon Tobaben, Mohamed Ali Souibgui, Rubèn Tito, Khanh Nguyen, Raouf Kerkouche, Kangsoo Jung, Joonas Jälkö, Lei Kang, Andrey Barsky, Vincent Poulain d'Andecy, Aurélie JOSEPH, Aashiq Muhamed, Kevin Kuo, Virginia Smith, Yusuke Yamasaki, Takumi Fukami, Kent
Veröffentlicht in: NEURIPS 2024
Herausgeber: NEURIPS 2024
DOI: 10.48550/ARXIV.2411.03730

Robustness Guarantees for Bayesian Neural Networks

Autoren: Marta Kwiatkowska
Veröffentlicht in: Proc. 19th International Conference on Quantitative Evaluation of SysTems (QEST 2022), ISSN 1611-3349
Herausgeber: Springer
DOI: 10.1007/978-3-031-16336-4

Private and Collaborative Kaplan-Meier Estimators

Autoren: Shadi Rahimian, Raouf Kerkouche, Ina Kurth, Mario Fritz
Herausgeber: ArXiv
DOI: 10.48550/ARXIV.2305.15359

Distributionally Robust Model-based Reinforcement Learning with Large State Spaces

Autoren: S.S. Ramesh, P. G. Sessa, Y. Hu, A. Krause, I. Bogunovic
Veröffentlicht in: International Conference on Artificial Intelligence and Statistics (AISTATS), 2023
Herausgeber: AISTATS
DOI: 10.48550/arXiv.2309.02236

"MargCTGAN: A ""Marginally"" Better CTGAN for the Low Sample Regime"

Autoren: Tejumade Afonja, Dingfan Chen, Mario Fritz
Herausgeber: GCPR’23
DOI: 10.60882/CISPA.25233076

Fast Attention Over Long Sequences With Dynamic Sparse Flash Attention

Autoren: Matteo Pagliardini ~Matteo_Pagliardini1 , Daniele Paliotta, Martin Jaggi, François Fleuret
Herausgeber: NEURIPS 2023

Subsampling is not Magic: Why Large Batch Sizes Work for Differentially Private Stochastic Optimisation

Autoren: Ossi Räisä, Joonas Jälkö, Antti Honkela
Herausgeber: ICML 2024

On the Efficacy of Differentially Private Few-shot Image Classification

Autoren: Marlon Tobaben, Aliaksandra Shysheya, John Bronskill, Andrew Paverd, Shruti Tople, Santiago Zanella Béguelin, Richard E. Turner, Antti Honkela
Veröffentlicht in: TMLR 2023, ISSN 2302-01190
Herausgeber: TMLR 2023

3DOS: Towards 3D Open Set Learning - Benchmarking and Understanding Semantic Novelty Detection on Point Clouds

Autoren: Antonio Alliegro, Francesco Cappio Borlino, Tatiana Tommasi
Veröffentlicht in: Advances in Neural Information Processing Systems 35 (NeurIPS 2022) Datasets and Benchmarks Track, 2022, ISBN 9781713871088
Herausgeber: NeurIPS 2022

FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks (LKF24)

Autoren: Tobias Lorenz, Marta Kwiatkowska, Mario Fritz
Veröffentlicht in: The German Conference on Pattern Recognition (GCPR)
Herausgeber: The German Conference on Pattern Recognition (GCPR)
DOI: 10.1007/978-3-031-85181-0_5

Hyperparameters in Score-Based Membership Inference Attacks

Autoren: Gauri Pradhan, Joonas Jälkö, Marlon Tobaben, Antti Honkela
Veröffentlicht in: SaTML 2025, 2025
Herausgeber: SaTML 2025
DOI: 10.48550/ARXIV.2502.06374

The BRAVO Semantic Segmentation Challenge Results in UNCV2024

Autoren: Tuan-Hung Vu, Eduardo Valle, Andrei Bursuc, Tommie Kerssies, Daan de Geus, Gijs Dubbelman, Long Qian, Bingke Zhu, Yingying Chen, Ming Tang, Jinqiao Wang, Tomáš Vojíř, Jan Šochman, Jiří Matas, Michael Smith, Frank Ferrie, Shamik Basu, Christos Sakaridis, L
Veröffentlicht in: European Conference on Computer Vision (ECCV) 2024, 2024
Herausgeber: European Conference on Computer Vision (ECCV) 2024
DOI: 10.48550/ARXIV.2409.15107

Domain Randomization for Robust, Affordable and Effective Closed-loop Control of Soft Robots

Autoren: Gabriele Tiboni, Andrea Protopapa, Tatiana Tommasi, Giuseppe Averta
Veröffentlicht in: IEEE Internationa Conference on Intelligent Robots and Systems (IROS) 2023, 2023
Herausgeber: IROS

1000 African Voices: Advancing inclusive multi-speaker multi-accent speech synthesis

Autoren: Sewade Ogun, Abraham T. Owodunni, Tobi Olatunji, Eniola Alese, Babatunde Oladimeji, Tejumade Afonja, Kayode Olaleye, Naome A. Etori, Tosin Adewumi
Veröffentlicht in: Biomedical Research in Artificial Intelligence and Machine Perception
Herausgeber: Interspeech 2024
DOI: 10.48550/ARXIV.2406.11727

TransferBench: Benchmarking Ensemble-based Black-box Transfer Attacks

Autoren: Brau, Fabio; Pintor, Maura; Cinà, Antonio Emanuele; Mura, Raffaele; Scionis, Luca; Oneto, Luca; Roli, Fabio; Biggio,Battista
Veröffentlicht in: The Thirty-ninth Annual Conference on Neural Information Processing Systems Datasets and Benchmarks Track, 2025
Herausgeber: OpenReview.net

Noise-Aware Differentially Private Regression via Meta-Learning

Autoren: Ossi Räisä, Stratis Markou, Matthew Ashman, Wessel P Bruinsma, Marlon Tobaben, Antti Honkela, Richard E. Turner
Veröffentlicht in: NeurIPS 2024
Herausgeber: NeurIPS 2024

Less is More? An Ablation Study on AutoAttack for Adversarial Robustness Evaluation

Autoren: Luca Melis, Luca Scionis, Fabio Brau, Maura Pintor, Battista Biggio
Herausgeber: ICML

Indicators of Attack Failure: Debugging and Improving Optimization of Adversarial Examples

Autoren: Maura Pintor, Luca Demetrio, Angelo Sotgiu, Ambra Demontis, Nicholas Carlini, Battista Biggio, Fabio Roli
Veröffentlicht in: Advances in Neural Information Processing Systems 35 (NeurIPS 2022) , 2022
Herausgeber: Curran Associates, Inc.
DOI: 10.48550/ARXIV.2106.09947

Medical Multimodal Model Stealing Attacks via Adversarial Domain Alignment

Autoren: Yaling Shen; Zhixiong Zhuang; Kun Yuang; Maria-Irina Nicolae; Nassir Navab; Nicolas Padoy; Mario Fritz
Herausgeber: AAAI 2025
DOI: 10.48550/ARXIV.2502.02438

Robust Explanation Constraints for Neural Networks

Autoren: Matthew Wicker, Juyeon Heo, Luca Costabello, Adrian Weller
Veröffentlicht in: International Conference on Learning Representations (ICLR), 2023.
Herausgeber: ICLR 2023
DOI: 10.48550/ARXIV.2212.08507

Show, Interpret and Tell: Entity-Aware Contextualised Image Captioning in Wikipedia

Autoren: K. Nguyen, A. Biten, A. Mafla, L. Gomez, D. Karatzas
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, ISSN 2159-5399
Herausgeber: PKP PS
DOI: 10.1609/AAAI.V37I2.25285

Learning Counterfactually Invariant Predictors

Autoren: Francesco Quinzan, Cecilia Casolo, Krikamol Muandet, Yucen Luo, Niki Kilbertus
Veröffentlicht in: 2nd Workshop on Formal Verification of Machine Learning (WFVML 2023), 2023, ISSN 2207-09768
Herausgeber: arXiv
DOI: 10.48550/arXiv.2207.09768

On Adversarial Training without Perturbing All Examples Proceedings Article

Autoren: Max Losch; Mohamed Omran; David Stutz; Mario Fritz; Bernt Schiele
Veröffentlicht in: The Twelfth International Conference on Learning Representations (ICLR), 2024
Herausgeber: OpenReview

Towards Randomized Algorithms and Models that We Can Trust: a Theoretical Perspective

Autoren: Oneto, L. and Ridella, S. and Anguita, D.
Veröffentlicht in: European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN), ISBN 978-2-87587-088-9
Herausgeber: ESANN
DOI: 10.14428/ESANN/2023.ES2023-29

Fairness Without Demographic Data: A Survey of Approaches

Autoren: Carolyn Ashurst, Adrian Weller
Veröffentlicht in: Equity and Access in Algorithms, Mechanisms, and Optimization, 2025
Herausgeber: ACM
DOI: 10.1145/3617694.3623234

Human-in-the-Loop Mixup

Autoren: Katherine M. Collins, Umang Bhatt, Weiyang Liu, Vihari Piratla, Ilia Sucholutsky, Bradley Love, Adrian Weller
Veröffentlicht in: Proceedings of the Thirty-Ninth Conference on Uncertainty in Artificial Intelligence
Herausgeber: PMLR

Residual Deep Gaussian Processes on Manifolds for Geometry-aware Bayesian Optimization on Hyperspheres

Autoren: Kacper Wyrwal, Viacheslav Borovitskiy
Veröffentlicht in: ICLR 2025
Herausgeber: ICLR 2025

Fair Empirical Risk Minimization Revised

Autoren: Franco, D. and Oneto, L. and Anguita, D.
Veröffentlicht in: International Work-Conference on Artificial and Natural Neural Networks (IWANN), 2023, ISBN 978-3-031-43084-8
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-43085-5_3

Tight Accounting in the Shuffle Model of Differential Privacy

Autoren: Antti Koskela, Mikko A. Heikkilä ~Mikko_A._Heikkilä1 , Antti Honkela
Herausgeber: TMLR 2023

PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics

Autoren: Derui Zhu, Dingfan Chen, Qing Li, Zongxiong Chen, Lei Ma, Jens Grossklags, Mario Fritz
Veröffentlicht in: Findings of the Association for Computational Linguistics: NAACL 2024, 2024.
Herausgeber: Findings of the Association for Computational Linguistics: NAACL 2024, 2024.
DOI: 10.48550/ARXIV.2404.04722

EarthLoc: Astronaut Photography Localization by Indexing Earth from Space

Autoren: Gabriele Berton, Alex Stoken, Barbara Caputo, Carlo Masone
Veröffentlicht in: CVPR 2024
Herausgeber: CVPR 2024
DOI: 10.48550/ARXIV.2403.06758

Will You Participate? Exploring the Potential of Robotics Competitions on Human-centric Topics

Autoren: Yuchong Zhang, Miguel Vasco, Mårten Björkman, Danica Kragic
Veröffentlicht in: International Conference on Human-Computer Interaction (HCII) 2024, 2024
Herausgeber: Springer
DOI: 10.48550/ARXIV.2403.18616

Edge Implementation of Unsupervised Self-evolving Vision Classifier

Autoren: P. Angelov, A. Aghasanli
Veröffentlicht in: IEEE International Conference on Evolving and Adaptive Intelligent Systems 2024, 2024
Herausgeber: IEEE International Conference on Evolving and Adaptive Intelligent Systems 2024
DOI: 10.1109/EAIS58494.2024.10570024

Multiplication-Free Transformer Training via Piecewise Affine Operations

Autoren: Atli Kosson, Martin Jaggi
Veröffentlicht in: ISSN 2305-17190
Herausgeber: NeurIPS
DOI: 10.48550/ARXIV.2305.17190

Human Uncertainty in Concept-Based AI Systems

Autoren: Katherine Maeve Collins ,Matthew Barker, Mateo Espinosa Zarlenga, Naveen Raman, Umang Bhatt, Mateja Jamnik, Ilia Sucholutsky ,Adrian Weller , Krishnamurthy Dvijotham
Veröffentlicht in: Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society, 2023
Herausgeber: AIES
DOI: 10.1145/3600211.3604692

Automated Classification of Model Errors on ImageNet

Autoren: Momchil Peychev, Mark Niklas Müller, Marc Fischer, Martin Vechev
Veröffentlicht in: NeurIPS'23, 2023
Herausgeber: NeurIPS
DOI: 10.48550/arXiv.2401.02430

Media Coverage of Predictive Policing: Bias, Police Engagement, and the Future of Transparency

Autoren: Harry Camilleri, Carolyn Ashurst, Nithya Jaisankar, Adrian Weller, Miri Zilka
Veröffentlicht in: Equity and Access in Algorithms, Mechanisms, and Optimization, 2025
Herausgeber: ACM
DOI: 10.1145/3617694.3623249

DocILE Benchmark for Document Information Localization and Extraction

Autoren: Štěpán Šimsa, Milan Šulc, Michal Uřičář, Yash Patel, Ahmed Hamdi, Matěj Kocián, Matyáš Skalický, Jiří Matas, Antoine Doucet, Mickaël Coustaty, Dimosthenis Karatzas
Veröffentlicht in: Document Analysis and Recognition - ICDAR 2023. ICDAR 2023. Lecture Notes in Computer Science, 2023, ISBN 978-3-031-41678-1
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-41679-8_9

Trading-off payments and accuracy in online classification with paid stochastic experts

Autoren: Dirk van der Hoeven, Ciara Pike-Burke, Hao Qiu, Nicolo Cesa-Bianchi
Herausgeber: ICML
DOI: 10.5555/3618408.3619857

Self-supervised Representation Learning for Adversarial Attack Detection

Autoren: Yi Li, Plamen Angelov, Neeraj Suri
Veröffentlicht in: Lecture Notes in Computer Science, Computer Vision – ECCV 2024, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-73027-6_14

Contrasting Deepfakes Diffusion via Contrastive Learning and Global-Local Similarities

Autoren: Lorenzo Baraldi, Federico Cocchi, Marcella Cornia, Lorenzo Baraldi, Alessandro Nicolosi, Rita Cucchiara
Veröffentlicht in: Lecture Notes in Computer Science, Computer Vision – ECCV 2024, 2024
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-73036-8_12

Taxonomy, Opportunities, and Challenges of Representation Engineering for Large Language Models

Autoren: Jan Wehner, Sahar Abdelnabi, Daniel Tan, David Krueger, Mario Fritz
Herausgeber: archiv.org

DPVIm: Differentially Private Variational Inference Improved

Autoren: Joonas Jälkö, Lukas Prediger, Antti Honkela, Samuel Kaski
Veröffentlicht in: TMLR 9/2023, 2023
Herausgeber: TMLR 9/2023

The New Public Analytics as an Emerging Paradigm in Public Sector Administration

Autoren: Karen Yeung
Herausgeber: Tilburg Law Review
DOI: 10.5334/TILR.303

Risk-Averse Certification of Bayesian Neural Networks (ZWG+25)

Autoren: Xiyue Zhang, Zifan Wang, Yulong Gao, Licio Romao, Alessandro Abate, Marta Kwiatkowska
Veröffentlicht in: Technical report
Herausgeber: Technical report
DOI: 10.48550/ARXIV.2411.19729

Uncertainty-Aware Explanations Through Probabilistic Self-Explainable Neural Networks (VSLK24)

Autoren: Jon Vadillo, Roberto Santana, Jose A. Lozano, Marta Kwiatkowska
Veröffentlicht in: Technical report
Herausgeber: Technical report
DOI: 10.48550/ARXIV.2403.13740

Causality Is Key to Understand and Balance Multiple Goals in Trustworthy ML and Foundation Models

Autoren: Ruta Binkyte, Ivaxi Sheth, Zhijing Jin, Mohammad Havaei, Bernhard Schölkopf, Mario Fritz
Herausgeber: api.semanticscholar.org
DOI: 10.48550/ARXIV.2502.21123

The GeometricKernels Package: Heat and Mat\'ern Kernels for Geometric Learning on Manifolds, Meshes, and Graphs

Autoren: Peter Mostowsky, Vincent Dutordoir, Iskander Azangulov, Noémie Jaquier, Michael John Hutchinson, Aditya Ravuri, Leonel Rozo, Alexander Terenin, Viacheslav Borovitskiy
Herausgeber: archiv.org

On Neuron Activation Pattern and Applications

Autoren: Ziping Jiang, Plamen Angelov, Dmitry Kangin, Zhaonian Zhang, Richard Jiang
Veröffentlicht in: 2024
Herausgeber: Institute of Electrical and Electronics Engineers (IEEE)
DOI: 10.36227/TECHRXIV.170421894.45150592/V1

FineWeb2: A sparkling update with 1000s of languages

Autoren: Guilherme Penedo, Hynek Kydlíček, Vinko Sabolčec, Bettina Messmer, Negar Foroutan, Martin Jaggi, Leandro von Werra, Thomas Wolf
Veröffentlicht in: github open source release
Herausgeber: github open source release

Living-off-The-Land Reverse-Shell Detection by Informed Data Augmentation

Autoren: Trizna, D., Demetrio, L., Biggio, B., & Roli, F.
Veröffentlicht in: 2024, ISSN 2402-18329
Herausgeber: ArXiv
DOI: 10.48550/arXiv.2402.18329

epfLLM Megatron-LLM

Autoren: AH Cano, M Pagliardini, A Köpf, K Matoba, A Mohtashami, OS Fan, A Marmet, D Bayazit, I Krawczuk, Z Chen, F Salvi, A Bosselut, M Jaggi
Herausgeber: GitHub

Mitigating Unintended Memorization with LoRA in Federated Learning for LLMs

Autoren: Thierry Bossy, Julien Vignoud, Tahseen Rabbani, Juan R Troncoso Pastoriza, Martin Jaggi
Veröffentlicht in: arXiv
Herausgeber: arXiv
DOI: 10.48550/ARXIV.2502.05087

On-device collaborative language modeling via a mixture of generalists and specialists

Autoren: Dongyang Fan, Bettina Messmer, Nikita Doikov, Martin Jaggi
Veröffentlicht in: arXiv
Herausgeber: arXiv
DOI: 10.48550/ARXIV.2409.13931

Evaluating Language Models for Mathematics through Interactions

Autoren: Katherine M. Collins, Albert Q. Jiang, Simon Frieder, Lionel Wong, Miri Zilka, Umang Bhatt, Thomas Lukasiewicz, Yuhuai Wu, Joshua B. Tenenbaum, William Hart, Timothy Gowers, Wenda Li, Adrian Weller, Mateja Jamnik
Veröffentlicht in: ISSN 2306-01694
Herausgeber: arXiv
DOI: 10.1073/PNAS.2318124121

σ-zero: Gradient-based Optimization of ℓ0-norm Adversarial Examples

Autoren: Cinà, A.E., Villani, F., Pintor, M., Schönherr, L., Biggio, B., Pelillo, M.,
Veröffentlicht in: 2024, ISSN 2402-01879
Herausgeber: ArXiv
DOI: 10.48550/arXiv.2402.01879

From Managers to Machines: A Reply to Respondents

Autoren: Karen Yeung
Herausgeber: Tilburg Law Review
DOI: 10.5334/TILR.308

Transfer learning from inorganic materials to ivory detection

Autoren: A. Aghasanli, P. Angelov, D. Kangin, J. Kerns and R. Shepherd
Veröffentlicht in: Scientific Reports
Herausgeber: Scientific Reports

The European Union's AI Act: beyond motherhood and apple pie?

Autoren: Nathalie A. Smuha, Karen Yeung
Veröffentlicht in: 2024
Herausgeber: Elsevier BV
DOI: 10.2139/SSRN.4874852

STR-Cert: Robustness Certification for Deep Text Recognition on Deep Learning Pipelines and Vision Transformers

Autoren: Daqian Shao, Lukas Fesser, Marta Kwiatkowska
Veröffentlicht in: Technical report, paper under submission, 2023
Herausgeber: N/A
DOI: 10.48550/arXiv.2401.05338

Exploring the role of Text in Visual Question Answering on Natural Scenes and Documents

Autoren: Ruben Perez Tito
Veröffentlicht in: 2023, ISBN 978-84-124793-5-5
Herausgeber: Ediciones Gráficas Rey

Suche nach OpenAIRE-Daten ...

Leistungen

Veröffentlichungen

Diese Seite teilen Diese Seite in sozialen Netzwerken teilen

PDF-Datei herunterladen Den Inhalt der Seite herunterladen