From FUnction-based TO MOdel-based automated probabilistic reasoning for DEep Learning

Weighted Automata Extraction and Explanation of Recurrent Neural Networks for Natural Language Tasks

Autoren: Zeming Wei, Xiyue Zhang, Yihao Zhang, Meng Sun
Veröffentlicht in: Journal of Logical and Algebraic Methods in Programming, Ausgabe Volume 136, January 2024, 100907, 2023, ISSN 2352-2208
Herausgeber: ELSEVIER
DOI: 10.1016/j.jlamp.2023.100907

Planning for Automated Vehicles with Human Trust

Autoren: Shili Sheng, Erfan Pakdamanian, Kyungtae Han, Ziran Wang, John Lenneman, David Parker, Lu Feng
Veröffentlicht in: ACM Transactions on Cyber-Physical Systems, 2022, ISSN 2378-962X
Herausgeber: Association for Computing Machinery
DOI: 10.1145/3561059

Automated Verification of Concurrent Stochastic Systems

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Formal Methods in System Design, 2021, ISSN 0925-9856
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10703-020-00356-y

Evaluation and learning in two-player symmetric games via best and better response

Autoren: Rui Yan, Weixian Zhang, Ruiliang Deng, Xiaoming Duan, Zongying Shi, Yisheng Zhong
Veröffentlicht in: Information Sciences, 2023, ISSN 0020-0255
Herausgeber: Elsevier BV
DOI: 10.1016/j.ins.2023.119459

Physiologically-Informed Gaussian Processes for Interpretable Modelling of Psycho-Physiological States

Autoren: Shadi Ghiasi, Andrea Patane, Luca Laurenti, Claudio Gentili, Enzo Pasquale Scilingo, Alberto Greco, Marta Kwiatkowska
Veröffentlicht in: EEE Journal of Biomedical and Health Informatics (J-BHI), 2022, ISSN 2168-2194
Herausgeber: Institute of Electrical and Electronics Engineers Inc.

Multiplayer Homicidal Chauffeur Reach-Avoid Games: A Pursuit Enclosure Function Approach

Autoren: Rui Yan, Xiaoming Duan, Rui Zou, Xin He, Zongying Shi, Francesco Bullo
Veröffentlicht in: Automatica, 2024, ISSN 1873-2836
Herausgeber: Elsevier
DOI: 10.48550/arxiv.2311.02389

PREMAP: A Unifying PREiMage APproximation Framework for Neural Networks

Autoren: Xiyue Zhang, Benjie Wang, Marta Kwiatkowska, Huan Zhang
Veröffentlicht in: Journal of Machine Learning Research (JMLR), 2025, ISSN 1533-7928
Herausgeber: JMLR
DOI: 10.48550/arxiv.2408.09262

Online control synthesis for uncertain systems under signal temporal logic specifications

Autoren: Pian Yu, Yulong Gao, Frank J. Jiang, Karl H. Johansson and Dimos V. Dimarogonas
Veröffentlicht in: International Journal of Robotics Research, 2023, ISSN 0278-3649
Herausgeber: SAGE Publications
DOI: 10.1177/02783649231212572

A Language for Modeling and Optimizing Experimental Biological Protocols

Autoren: Luca Cardelli; Marta Kwiatkowska; Luca Laurenti
Veröffentlicht in: Computation, Ausgabe 9, 107, 2021, ISSN 2079-3197
Herausgeber: MDPI
DOI: 10.3390/computation9100107

On the Hardness of Robust Classification

Autoren: Pascale Gourdeau, Varun Kanade, Marta Kwiatkowska and James Worrell
Veröffentlicht in: Journal of Machine Learning Research, 2021, ISSN 1532-4435
Herausgeber: MIT Press

Probabilistic Reach-Avoid for Bayesian Neural Networks

Autoren: Wicker, Matthew; Laurenti, Luca; Patane, Andrea; Paoletti, Nicola; Abate, Alessandro; Kwiatkowska, Marta
Veröffentlicht in: Artificial Intelligence, Ausgabe 8, 2024, ISSN 0004-3702
Herausgeber: Elsevier BV
DOI: 10.48550/arxiv.2310.01951

Probabilistic model checking and autonomy

Autoren: Marta Kwiatkowska, Gethin Norman and David Parker
Veröffentlicht in: Annual Review of Control, Robotics, and Autonomous Systems, Ausgabe 5:1,, 2022, Seite(n) 385-410, ISSN 2573-5144
Herausgeber: Annual Review of Control, Robotics, and Autonomous Systems
DOI: 10.1146/annurev-control-042820-010947

Adversarial Robustness Guarantees for Gaussian Processes

Autoren: Andrea Patane, Arno Blaas, Luca Laurenti, Luca Cardelli, Stephen Roberts, Marta Kwiatkowska
Veröffentlicht in: Journal of Machine Learning Research, Ausgabe 23(146), 2022, Seite(n) 1−55, ISSN 2640-3498
Herausgeber: PMLR

Robust Control for Dynamical Systems with Non-Gaussian Noise via Formal Abstractions.

Autoren: Thom Badings, Licio Romao, Alessandro Abate, David Parker, Hasan A. Poonawala, Marielle Stoelinga and Nils Jansen.
Veröffentlicht in: Journal of Artificial Intelligence Research, Ausgabe 76, 2023, ISSN 1076-9757
Herausgeber: Morgan Kaufmann Publishers, Inc.
DOI: 10.1613/jair.1.14253

Strategy Synthesis for Zero-Sum Neuro-Symbolic Concurrent Stochastic Games

Autoren: Rui Yan, Gabriel Santos, Gethin Norman, David Parker, Marta Kwiatkowska
Veröffentlicht in: Information and Computation, 2024, Seite(n) 105193, ISSN 0890-5401
Herausgeber: Academic Press
DOI: 10.1016/j.ic.2024.105193

A Framework for Simultaneous Task Allocation and Planning under Uncertainty

Autoren: Fatma Faruq, Bruno Lacerda, Nick Hawes, David Parker
Veröffentlicht in: ACM Transactions on Autonomous and Adaptive Systems, 2024, ISSN 1556-4703
Herausgeber: Association for Computing Machinery
DOI: 10.1145/3665499

Rational verification: game-theoretic verification of multi-agent systems

Autoren: Abate, Alessandro; Gutierrez, Julian; Hammond, Lewis; Harrenstein, Paul; Kwiatkowska, Marta; Najib, Muhammad; Perelli, Giuseppe; Steeples, Thomas; Wooldridge, Michael
Veröffentlicht in: Applied Intelligence, Ausgabe 51, 2021, Seite(n) 6569–6584, ISSN 0924-669X
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10489-021-02658-y

On the Role of Explainability and Uncertainty in Ensuring Safety of AI Applications

Autoren: Rhiannon Falconmore
Veröffentlicht in: PhD thesis, 2022
Herausgeber: University of Oxford

Automatic Verification and Strategy Synthesis for Zero-sum and Equilibria Properties of Concurrent Stochastic Games

Autoren: Gabriel Santos
Veröffentlicht in: PhD thesis, 2021
Herausgeber: University of Oxford

Formal Verification of Deep Reinforcement Learning Agents

Autoren: Edoardo Bacci
Veröffentlicht in: PhD thesis, 2022
Herausgeber: University of Birmingham

Sample complexity of robust learning against evasion attacks

Autoren: Pascale Gourdeau
Veröffentlicht in: PhD thesis, 2023
Herausgeber: University of Oxford

Tractable probabilistic models for causal learning and reasoning

Autoren: Benjie Wang
Veröffentlicht in: PhD thesis, 2023
Herausgeber: University of Oxford
DOI: 10.5287/ora-2anj4dbdx

Modelling Human-Like Decision Making and Social Trust Using Probabilistic Programming

Autoren: Maciej Olejnik
Veröffentlicht in: PhD thesis, 2022
Herausgeber: University of Oxford

On the Adversarial Robustness of Gaussian Processes

Autoren: Andrea Patane
Veröffentlicht in: PhD thesis, 2021
Herausgeber: University of Oxford

Robustness Evaluation of Deep Neural Networks with Provable Guarantees

Autoren: Min Wu
Veröffentlicht in: PhD thesis, 2020
Herausgeber: University of Oxford

On Robustness for Natural Language Processing

Autoren: Emanuele La Malfa
Veröffentlicht in: PhD thesis, 2023
Herausgeber: University of Oxford
DOI: 10.5287/ora-2a4grvayz

Adversarial robustness of Bayesian neural networks

Autoren: Matthew Wicker
Veröffentlicht in: PhD thesis, 2022
Herausgeber: University of Oxford

PRISM 4.8

Autoren: David Parker, Gethin Norman, Marta Kwiatkowska
Veröffentlicht in: Software, 2023
Herausgeber: n/a

On the Benefits of Invariance in Neural Networks

Autoren: Clare Lyle, Mark van der Wilk, Marta Kwiatkowska, Yarin Gal, Benjamin Bloem-Reddy
Veröffentlicht in: Technical report Presented as poster at the NeurIPS 2019 Machine Learning with Guarantees Workshop., 2020
Herausgeber: Machine Learning
DOI: 10.48550/arxiv.2005.00178

Emergent Linguistic Structures in Neural Networks are Fragile

Autoren: Emanuele La Malfa, Matthew Wicker, Marta Kwiatkowska
Veröffentlicht in: Technical report, 2023
Herausgeber: arxiv
DOI: 10.48550/arxiv.2210.17406

PREMAP

Autoren: Xiyue Zhang
Veröffentlicht in: Software, 2025
Herausgeber: n/a

Model-Based Diagnosis with Multiple Observations: A Unified Approach for C Software and Boolean Circuits

Autoren: Pedro Orvalho, Marta Kwiatkowska, Mikoláš Janota, Vasco Manquinho
Veröffentlicht in: 2025
Herausgeber: arxiv

Bayesian Network Models of Causal Interventions in Healthcare Decision Making: Literature Review and Software Evaluation

Autoren: Artem Velikzhanin, Benjie Wang, Marta Kwiatkowska
Veröffentlicht in: Technical report, under submission, 2022
Herausgeber: Department of Computer Science University of Oxford
DOI: 10.48550/arxiv.2211.15258

Robustness of Unsupervised Representation Learning without Labels

Autoren: Aleksandar Petrov, Marta Kwiatkowska
Veröffentlicht in: Technical report, under submission, 2022
Herausgeber: online

PRISM-games 3.0 and 3.1

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Software, 2020
Herausgeber: n/a

DeepBayes

Autoren: Matthew Wicker
Veröffentlicht in: Software, 2022
Herausgeber: n/a

Point-based Value Iteration for Neuro-Symbolic POMDPs

Autoren: Rui Yan, Gabriel Santos, Gethin Norman, David Parker, Marta Kwiatkowska
Veröffentlicht in: Technical report, under submission, 2023
Herausgeber: Technical report arXiv:2306.17639, arXiv.
DOI: 10.48550/arxiv.2306.17639

SafeDRL

Autoren: David Parker
Veröffentlicht in: Software, 2022
Herausgeber: n/a

PRISM-games 3.2

Autoren: David Parker, Gethin Norman, Marta Kwiatkowska
Veröffentlicht in: Software, 2023
Herausgeber: n/a

Uncertainty-Aware Explanations Through Probabilistic Self-Explainable Neural Networks

Autoren: Jon Vadillo, Roberto Santana, Jose A. Lozano, Marta Kwiatkowska
Veröffentlicht in: Technical report, under submission, 2024
Herausgeber: TBC
DOI: 10.48550/arxiv.2403.13740

Uncertify: Attacks Against Neural Network Certification

Autoren: Lorenz, Tobias; Kwiatkowska, Marta; Fritz, Mario
Veröffentlicht in: Technical report, under submission, Ausgabe 1, 2021
Herausgeber: Technical report - Under submission
DOI: 10.48550/arxiv.2108.11299

Double Machine Learning for Conditional Moment Restrictions: IV regression, Proximal Causal Learning and Beyond

Autoren: Daqian Shao, Ashkan Soleymani, Francesco Quinzan, Marta Kwiatkowska
Veröffentlicht in: 2025
Herausgeber: TBC
DOI: 10.48550/arxiv.2506.14950focustolearnmore

PRISM 4.7

Autoren: David Parker, Gethin Norman, Marta Kwiatkowska
Veröffentlicht in: Software, 2021
Herausgeber: n/a

PRISM 4.9

Autoren: David Parker
Veröffentlicht in: Software, 2025
Herausgeber: n/a

Human-in-the-Loop Oversight of AI is Compromised by Political Preferences

Autoren: Terence Daniel Dores Cruz, Christopher Starke, Tim Katzke, Emmanuel Müller, Marta Kwiatkowska, Orly Lobel, Nils Köbis and Shaul Shalvi
Veröffentlicht in: 2025
Herausgeber: PsyArXiv

Exact Verification of Graph Neural Networks with Incremental Constraint Solving

Autoren: Minghao Liu, Chia-Hsuan Lu, Marta Kwiatkowska
Veröffentlicht in: 2025
Herausgeber: TBC - Technical paper under submission
DOI: 10.48550/arxiv.2508.09320

STR-Cert: Robustness Certification for Deep Text Recognition on Deep Learning Pipelines and Vision Transformers

Autoren: Daqian Shao, Lukas Fesser, Marta Kwiatkowska
Veröffentlicht in: Technical report, under submission, 2024
Herausgeber: Technical report, under submission
DOI: 10.48550/arxiv.2401.05338

Learning Algorithms for Verification of Markov Decision Processes

Autoren: Tomáš Brázdil, Krishnendu Chatterjee, Martin Chmelik, Vojtěch Forejt, Jan Křetínský, Marta Kwiatkowska, Tobias Meggendorfer, David Parker, Mateusz Ujma
Veröffentlicht in: Technical report, under submission, 2024
Herausgeber: TBC

PRISM-games 3.2.1

Autoren: David Parker
Veröffentlicht in: Software, 2025
Herausgeber: n/a

Efficient Preimage Approximation for Neural Network Certification

Autoren: Anton Björklund, Mykola Zaitsev, Marta Kwiatkowska
Veröffentlicht in: Technical paper, under submission, 2025
Herausgeber: TBC
DOI: 10.48550/arxiv.2505.22798

Are Large Language Models Robust in UnderstandingCode Against Semantics-Preserving Mutations?

Autoren: Pedro Orvalho, Marta Kwiatkowska
Veröffentlicht in: Technical paper under submission, 2025
Herausgeber: TBC
DOI: 10.48550/arxiv.2505.10443

webppl-cognitive-agents

Autoren: Maciej Olejnik
Veröffentlicht in: Software and data, 2022
Herausgeber: n/a

PyVeritas: On Verifying Python via LLM-Based Transpilation and Bounded Model Checking for C

Autoren: Pedro Orvalho, Marta Kwiatkowska
Veröffentlicht in: 2025
Herausgeber: Technical report, pending to be accepted

The Complexity of Learning Temporal Properties

Autoren: Benjamin Bordais, Daniel Neider, Rajarshi Roy
Veröffentlicht in: 42nd International Symposium on Theoretical Aspects of Computer Science (STACS 2025), 2025
Herausgeber: TBC

Bayesian Inference with Certifiable Adversarial Robustness

Autoren: Matthew Wicker, Luca Laurenti, Andrea Patane, Zhuotong Chen, Zheng Zhang, Marta Kwiatkowska
Veröffentlicht in: Proceedings, International Conference on Artificial Intelligence and Statistics (AISTATS'21), 2021
Herausgeber: PMLR

Safe POMDP Online Planning via Shielding

Autoren: Shili Sheng, David Parker, Lu Feng
Veröffentlicht in: In Proc. IEEE International Conference on Robotics and Automation (ICRA'24), 2024
Herausgeber: The final version is forthcoming from IEEE.
DOI: 10.48550/arxiv.2309.10216

Learning Provably Robust Policies in Uncertain Parametric Environments

Autoren: Yannik Schnitzer, Alessandro Abate, David Parker
Veröffentlicht in: In Proc. 31st International Conference on Tools and Algorithms for the Construction and Analysis of Systems (TACAS'25), 2025
Herausgeber: Springer Nature

Multi-Objective Controller Synthesis with Uncertain Human Preferences

Autoren: Shenghui Chen, Kayla Boggess, David Parker, Lu Feng
Veröffentlicht in: Proc. ACM/IEEE 13th International Conference on Cyber-Physical Systems (ICCPS'22), 2022
Herausgeber: ACM/IEEE International Conference on Cyber-Physical Systems
DOI: 10.48550/arxiv.2105.04662

Distributional Probabilistic Model Checking

Autoren: Ingy Elsayed-Aly, David Parker, Lu Feng
Veröffentlicht in: In Proc. 16th International Symposium NASA Formal Methods (NFM'24), 2024, ISSN 0302-9743
Herausgeber: Springer
DOI: 10.48550/arxiv.2309.05584

Learning Decision Policies with Instrumental Variables through Double Machine Learning.

Autoren: Daqian Shao, Ashkan Soleymani, Francesco Quinzan, Marta Kwiatkowska
Veröffentlicht in: 41st. International Conference on Machine Learning (ICML 2024), 2024
Herausgeber: TBC
DOI: 10.48550/arxiv.2405.08498

Learning Probabilistic Temporal Logic Specifications for Stochastic Systems

Autoren: Rajarshi Roy, Yash Pote, David Parker, Marta Kwiatkowska
Veröffentlicht in: Proceedings of IJCAI-25, 2025
Herausgeber: IJCAI-25

Sampling-Based Robust Control of Autonomous Systems with Non-Gaussian Noise

Autoren: Thom S. Badings, Alessandro Abate, Nils Jansen, David Parker, Hasan A. Poonawala, Marielle Stoelinga
Veröffentlicht in: Proc. 36th AAAI Conference on Artificial Intelligence (AAAI'22), 2022
Herausgeber: AAAI Press
DOI: 10.48550/arxiv.2110.12662

Strategyproof Reinforcement Learning from Human Feedback

Autoren: Thomas Kleine Buening, Jiarui Gan, Debmalya Mandal, Marta Kwiatkowska
Veröffentlicht in: Proc. 39th Annual Conference on Neural Information Processing Systems (NeurIPS'25), 2025
Herausgeber: NeurIPS
DOI: 10.48550/arxiv.2503.09561focustolearnmore

The King is Naked: on the Notion of Robustness for Natural Language Processing

Autoren: Emanuele La Malfa, Marta Kwiatkowska
Veröffentlicht in: Proc. 36th AAAI Conference on Artificial Intelligence (AAAI'22), 2022
Herausgeber: Association for the Advancement of Artificial Intelligence
DOI: 10.48550/arxiv.2112.07605

Compositional Probabilistic and Causal Inference using Tractable Circuit Models

Autoren: Benjie Wang, Marta Kwiatkowska
Veröffentlicht in: 26th International Conference on Artificial Intelligence and Statistics, AISTATS'23, Ausgabe 206, 2023, Seite(n) 9488-9498, ISSN 2640-3498
Herausgeber: Journal of Machine Learning Research
DOI: 10.48550/arxiv.2304.08278

FAST: Boosting Uncertainty-based Test Prioritization Methods for Neural Networks via Feature Selection

Autoren: Jialuo Chen, Jingyi Wang, Xiyue Zhang, Youcheng Sun, Marta Kwiatkowska, Jiming Chen, Peng Cheng
Veröffentlicht in: 39th IEEE/ACM International Conference on Automated Software Engineering (ASE 2024), 2024, Seite(n) https://conf.researchr.org/home/ase-2024
Herausgeber: TBC
DOI: 10.48550/arxiv.2409.09130

Robustness Guarantees for Bayesian Neural Networks (invited extended abstract of a keynote speaker)

Autoren: Marta Kwiatkowska
Veröffentlicht in: In Proc. 19th International Conference on Quantitative Evaluation of SysTems (QEST 2022), 2022
Herausgeber: Springer

A Unifying Framework for Causal Imitation Learningwith Hidden Confounders

Autoren: Daqian Shao, Thomas Kleine Buening, Marta Kwiatkowska.
Veröffentlicht in: Workshop on Spurious Correlation and Shortcut Learning: Foundations and Solutions, Workshop at The International Conference on Learning Representations (ICLR) 2025, 2025
Herausgeber: OpenReview
DOI: 10.48550/arxiv.2502.07656

FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks

Autoren: Tobias Lorenz, Marta Kwiatkowska, Mario Fritz
Veröffentlicht in: The German Conference on Pattern Recognition (GCPR), 2024, Seite(n) https://www.gcpr-vmv.de/year/2024
Herausgeber: Springer Nature
DOI: 10.48550/arxiv.2406.11522

Planning with Linear Temporal Logic Specifications: Handling Quantifiable and Unquantifiable Uncertainty

Autoren: Pian Yu, Yong Li, David Parker, Marta Kwiatkowska
Veröffentlicht in: Proc. at IEEE International Conference on Robotics and Automation (ICRA), 2025
Herausgeber: TBC

Provable Preimage Under-Approximation for Neural Networks

Autoren: Zhang, Xiyue; Wang, Benjie; Kwiatkowska, Marta
Veröffentlicht in: TACAS 2024, 30th International Conference on Tools and Algorithms for the Construction and Analysis of Systems, Ausgabe 30, 2024, ISSN 0302-9743
Herausgeber: Springer
DOI: 10.48550/arxiv.2305.03686

What Is Formal Verification Without Specifications? A Survey on Mining LTL Specifications

Autoren: Daniel Neider, Rajarshi Roy
Veröffentlicht in: In: Jansen, N., et al. Principles of Verification: Cycling the Probabilistic Landscape . Lecture Notes in Computer Science, vol 15262, 2024
Herausgeber: Springer
DOI: 10.48550/arxiv.2501.16274

Safe POMDP Online Planning among Dynamic Agents via Adaptive Conformal Prediction

Autoren: Shili Sheng, Pian Yu, David Parker, Marta Kwiatkowska and Lu Feng
Veröffentlicht in: The IEEE Robotics and Automation Letters (RA-L), 2024
Herausgeber: The IEEE Robotics and Automation Letters (RA-L)
DOI: 10.48550/arxiv.2404.15557

When to trust AI: advances and challenges for certification of neural networks

Autoren: Marta Kwiatkowska, Xiyue Zhang
Veröffentlicht in: Proceedings of the 18th Conference on Computer Science and Intelligence Systems (FedCSIS 2023), 2023
Herausgeber: IEEE

Symbolic Causal Inference via Operations on Probabilistic Circuits

Autoren: Benjie Wang, Marta Kwiatkowska
Veröffentlicht in: NeurIPS Workshop on Neuro Causal and Symbolic AI (nCSI), 2022
Herausgeber: NeurIPS

Robustness Guarantees for Credal Bayesian Networks via Constraint Relaxation over Probabilistic Circuits.

Autoren: Hjalmar Wijk, Benjie Wang, Marta Kwiatkowska
Veröffentlicht in: Proc. 31st International Joint Conference on Artificial Intelligence (IJCAI'22), 2022
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.48550/arxiv.2205.05793

Robust Decision Pipelines: Opportunities and Challenges for AI in Business Process Modelling

Autoren: Marta Kwiatkowska
Veröffentlicht in: BPM 2023 Forum, Utrecht, The Netherlands, 2023
Herausgeber: A Springer Nature Computer Science book series.

Adversarial Robustness Certification for Bayesian Neural Networks

Autoren: Matthew Wicker, Andrea Patane, Luca Laurenti, Marta Kwiatkowska
Veröffentlicht in: 6th International Symposium on Formal Methods (FM'24 invited paper), 2024
Herausgeber: Springer
DOI: 10.48550/arxiv.2306.13614

Individual Fairness Guarantees for Neural Networks

Autoren: Elias Benussi, Andrea Patane, Matthew Wicker, Luca Laurenti, Marta Kwiatkowska
Veröffentlicht in: Proc. 31st International Joint Conference on Artificial Intelligence (IJCAI'22), 2022
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.48550/arxiv.2205.05763

Expectation vs. Reality: Towards Verification of Psychological Games

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker and Gabriel Santos
Veröffentlicht in: In Jansen, N., et al., Principles of Verification: Cycling the Probabilistic Landscape, volume 15262 of LNCS, 2024, Seite(n) 126–154
Herausgeber: Springer
DOI: 10.1007/978-3-031-75783-9

Certification of Iterative Predictions in Bayesian Neural Networks

Autoren: Matthew Wicker, Luca Laurenti, Andrea Patane, Nicola Paoletti, Alessandro Abate, Marta Kwiatkowska
Veröffentlicht in: 37th Conference on Uncertainty in Artificial Intelligence (UAI'21), 2021
Herausgeber: Association for Uncertainty in Artificial Intelligence (AUAI)

Safety and Robustness for Deep Learning with Provable Guarantees

Autoren: Marta Kwiatkowska
Veröffentlicht in: Proceedings, 35th IEEE/ACM International Conference on Automated Software Engineering (ASE ’20), 2020
Herausgeber: ACM

Counterexample Guided Program Repair Using Zero-Shot Learning and MaxSAT-based Fault Localization

Autoren: Pedro Orvalho, Mikola´s Janota, Vasco Manquinho
Veröffentlicht in: Proc. Thirty-Ninth AAAI Conference on Artificial Intelligence (AAAI-25), 2024
Herausgeber: TBC
DOI: 10.48550/arxiv.2502.07786

Sample Efficient Model-free Reinforcement Learning from LTL Specifications with Optimality Guarantees

Autoren: Daqian Shao, Marta Kwiatkowska
Veröffentlicht in: 32nd International Joint Conference on Artificial Intelligence (IJCAI 2023), Ausgabe n/a, 2023
Herausgeber: IJCAI
DOI: 10.24963/ijcai.2023/465

Sample complexity bounds for robustly learning decision lists against evasion attacks

Autoren: Pascale Gourdeau, Varun Kanade, Marta Kwiatkowska and James Worrell
Veröffentlicht in: Proc. 31st International Joint Conference on Artificial Intelligence (IJCAI'22), 2022
Herausgeber: International Joint Conferences on Artificial Intelligence
DOI: 10.48550/arxiv.2205.06127

HSVI-based Online Minimax Strategies for Partially Observable Stochastic Games with Neural Perception Mechanisms

Autoren: Rui Yan, Gabriel Santos, Gethin Norman, David Parker, Marta Kwiatkowska
Veröffentlicht in: Proc. 6th Annual Learning for Dynamics & Control Conference, L4DC 2024, 2024
Herausgeber: 6th Annual Learning for Dynamics & Control Conference, L4DC 2024
DOI: 10.48550/arxiv.2404.10679focustolearnmore

Probabilistic Model Checking for Strategic Equilibria-based Decision Making: Advances and Challenges.

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos, Rui Yan
Veröffentlicht in: In Proc. 47th International Symposium on Mathematical Foundations of Computer Science (MFCS'22)., Ausgabe 241 (4), 2022
Herausgeber: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.mfcs.2022.4

Verified Probabilistic Policies for Deep Reinforcement Learning

Autoren: Edoardo Bacci, David Parker
Veröffentlicht in: International Symposium NASA Formal Methods (NFM'22)., 2022
Herausgeber: Springer
DOI: 10.48550/arxiv.2201.03698

When are Local Queries Useful for Robust Learning?https://papers.nips.cc/paper_files/paper/2022/hash/db6461eaf0eaeaad1d9c4a70e4818cbd-Abstract-Conference.html

Autoren: Pascale Gourdeau, Varun Kanade, Marta Kwiatkowska, James Worrell
Veröffentlicht in: NeurIPS 2022, 2022
Herausgeber: NeurIPS paper

Finite-horizon Equilibria for Neuro-symbolic Concurrent Stochastic Games

Autoren: Rui Yan, Gabriel Santos, Xiaoming Duan, David Parker, Marta Kwiatkowska
Veröffentlicht in: Proc. 38th Conference on Uncertainty in Artificial Intelligence (UAI'22), 2022
Herausgeber: AUAI Press

Certifiers Make Neural Networks Vulnerable to Availability Attacks

Autoren: Tobias Lorenz, Marta Kwiatkowska and Mario Fritz
Veröffentlicht in: 16th ACM Workshop on Artificial Intelligence and Security (AISec 2023), 2023
Herausgeber: AISec 2023

Probabilistic Guarantees for Safe Deep Reinforcement Learning

Autoren: Edoardo Bacci, David Parker
Veröffentlicht in: Formal Modeling and Analysis of Timed Systems - 18th International Conference, FORMATS 2020, Vienna, Austria, September 1–3, 2020, Proceedings, Ausgabe 12288, 2020, Seite(n) 231-248, ISBN 978-3-030-57627-1
Herausgeber: Springer International Publishing
DOI: 10.1007/978-3-030-57628-8_14

DRCFS: Doubly Robust Causal Feature Selection

Autoren: Francesco Quinzan, Ashkan Soleymani, Patrik Jaillet, Cristian R. Rojas, Stefan Bauer
Veröffentlicht in: Fortieth International Conference on Machine Learning, ICML 2023, 2023
Herausgeber: ICML 2023

Multi-player Equilibria Verification for Concurrent Stochastic Games

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Proc. 17th International Conference on Quantitative Evaluation of SysTems (QEST'20), 2020
Herausgeber: Springer

On Correctness, Precision, and Performance in Quantitative Verification: QComp 2020 Competition Report

Autoren: Carlos E. Budde, Arnd Hartmanns, Michaela Klauck, Jan Kretinsky, David Parker, Tim Quatmann, Andrea Turrini and Zhen Zhang
Veröffentlicht in: Proc. 9th International Symposium on Leveraging Applications of Formal Methods, Verification and Validation (ISoLA'20), 2020
Herausgeber: Springer

Automated Design of Linear Bounding Functions for Sigmoidal Nonlinearities in Neural Networks

Autoren: Matthias König, Xiyue Zhang, Holger H. Hoos, Marta Kwiatkowska, Jan N. van Rijn
Veröffentlicht in: ECML-PKDD 2024- European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML-PKDD) 2024, 2024
Herausgeber: TBC
DOI: 10.48550/arxiv.2406.10154

Robust anytime learning of Markov decision processes

Autoren: Marnix Suilen, Thiago D. Simão, Nils Jansen, David Parker
Veröffentlicht in: In Proc. 36th Annual Conference on Neural Information Processing Systems (NeurIPS'22), 2022
Herausgeber: NeurIPS 2022
DOI: 10.48550/arxiv.2205.15827

MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs.

Autoren: Tobias Lorenz, Marta Kwiatkowska and Mario Fritz
Veröffentlicht in: Proc. 39th Annual Conference on Neural Information Processing Systems (NeurIPS'25), 2025
Herausgeber: Curran Associates

Provable Guarantees on the Robustness of Decision Rules to Causal Interventions

Autoren: Benjie Wang, Clare Lyle, Marta Kwiatkowska
Veröffentlicht in: 30th International Joint Conference on Artificial Intelligence (IJCAI'21), 2021
Herausgeber: IJCAI

Tractable Uncertainty for Structure Learning

Autoren: Benjie Wang, Matthew Wicker, Marta Kwiatkowska
Veröffentlicht in: Proc. 39th International Conference on Machine Learning (ICML'22), 2022
Herausgeber: PMLR

The Trembling-Hand Problem for LTLf Planning

Autoren: Pian Yu, Shufang Zhu, Giuseppe De Giacomo, Marta Kwiatkowska, Moshe Vardi
Veröffentlicht in: 33rd International Joint Conference on Artificial Intelligence (IJCAI 2024), 2024
Herausgeber: IJCAI 2024/TBC
DOI: 10.48550/arxiv.2404.16163

Bias Out-of-the-Box: An Empirical Analysis of Intersectional Occupational Biases in Popular Generative Language Models

Autoren: Hannah Rose Kirk, yennie jun, Filippo Volpin, Haider Iqbal, Elias Benussi, Frederic Dreyer, Aleksandar Shtedritski, Yuki Asano
Veröffentlicht in: Advances in Neural Information Processing Systems 34 (NeurIPS 2021), 2021
Herausgeber: PMLR

Safety Verification for Deep Neural Networks with Provable Guarantees (Invited Paper)

Autoren: Marta Kwiatkowska
Veröffentlicht in: 30th International Conference on Concurrency Theory (CONCUR 2019), 2019
Herausgeber: Schloss Dagstuhl--Leibniz-Zentrum fuer Informatik
DOI: 10.4230/lipics.concur.2019.1

Safety Guarantees for Iterative Predictions with Gaussian Processes

Autoren: Kyriakos Polymenakos, Luca Laurenti, Andrea Patane, Jan-Peter Calliess, Luca Cardelli, Marta Kwiatkowska, Alessandro Abate, Stephen Roberts
Veröffentlicht in: Proceedings, 59th IEEE Conference on Decision and Control (CDC), 2020
Herausgeber: IEEE

Robust Markov Decision Processes: A Place Where AI and Formal Methods Meet

Autoren: Marnix Suilen, Thom Badings, Eline M. Bovy, David Parker, Nils Jansen
Veröffentlicht in: In Jansen, N., et al., Principles of Verification: Cycling the Probabilistic Landscape, volume 15262 of LNCS, 2024, Seite(n) 126–154
Herausgeber: Springer
DOI: 10.48550/arxiv.2411.11451

Efficient Solution and Learning of Robust Factored MDPs

Autoren: Yannik Schnitzer, Alessandro Abate, David Parker
Veröffentlicht in: Proc. 40th AAAI Conference on Artificial Intelligence (AAAI'26), 2026
Herausgeber: AAAI

Partially Observable Stochastic Games with Neural Perception Mechanisms

Autoren: Rui Yan, Gabriel Santos, Gethin Norman, David Parker, Marta Kwiatkowska
Veröffentlicht in: In Proc. 26th International Symposium on Formal Methods (FM'24), 2024
Herausgeber: Springer
DOI: 10.48550/arxiv.2310.11566

PRISM-games 3.0: Stochastic Game Verification with Concurrency, Equilibria and Time

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Computer Aided Verification - 32nd International Conference, CAV 2020, Los Angeles, CA, USA, July 21–24, 2020, Proceedings, Part II, Ausgabe 12225, 2020, Seite(n) 475-487, ISBN 978-3-030-53290-1
Herausgeber: Springer International Publishing
DOI: 10.1007/978-3-030-53291-8_25

Assessing Robustness of Text Classification through Maximal Safe Radius Computation

Autoren: Emanuele La Malfa, Min Wu, Luca Laurenti, Benjie Wang, Anthony Hartshorn, Marta Kwiatkowska
Veröffentlicht in: Findings of the Association for Computational Linguistics: EMNLP 2020, 2020, Seite(n) 2949-2968
Herausgeber: Association for Computational Linguistics
DOI: 10.18653/v1/2020.findings-emnlp.266

Verifying Reinforcement Learning up to Infinity

Autoren: Edoardo Bacci, Mirco Giacobbe, David Parker
Veröffentlicht in: Proceedings, 30th International Joint Conference on Artificial Intelligence (IJCAI-21), 2021
Herausgeber: IJCAI

Multi-agent verification and control with probabilistic model checking

Autoren: David Parker
Veröffentlicht in: Proc. 20th International Conference on Quantitative Evaluation of SysTems (QEST'23), 2023, Seite(n) https://www.qest.org/qest2023/
Herausgeber: Spinger
DOI: 10.48550/arxiv.2308.02829

Learning Dynamics and Generalization in Reinforcement Learning

Autoren: Clare Lyle, Mark Rowland, Will Dabney, Marta Kwiatkowska, Yarin Gal
Veröffentlicht in: Proc. 39th International Conference on Machine Learning (ICML'22), 2022
Herausgeber: PMLR

Correlated equilibria and fairness in concurrent stochastic games

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Tools and Algorithms for the Construction and Analysis of Systems - 28th International Conference, TACAS 2022, 2022, ISSN 0302-9743
Herausgeber: Springer

On Guaranteed Optimal Robust Explanations for NLP Models

Autoren: Emanuele La Malfa, Agnieszka Zbrzezny, Rhiannon Michelmore, Nicola Paoletti, Marta Kwiatkowska
Veröffentlicht in: Proceedings, 30th International Joint Conference on Artificial Intelligence (IJCAI-21), 2021
Herausgeber: IJCAI

Invariant Causal Prediction for Block MDPs

Autoren: Amy Zhang, Clare Lyle, Shagun Sodhani, Angelos Filos, Marta Kwiatkowska, Joelle Pineau, Yarin Gal, Doina Precup
Veröffentlicht in: Proceedings of the 37th International Conference on Machine Learning (ICML), 2020
Herausgeber: PMLR 119

Probabilistic Safety for Bayesian Neural Networks

Autoren: Matthew Wicker, Luca Laurenti, Andrea Patane, Marta Kwiatkowska
Veröffentlicht in: Proceedings, 36th Conference on Uncertainty in Artificial Intelligence (UAI 2020), 2020
Herausgeber: PMLR

Strategy Synthesis for Partially Observable Stochastic Games with Neural Perception Mechanisms

Autoren: Marta Kwiatkowska
Veröffentlicht in: 32nd EACSL Annual Conference on Computer Science Logic (CSL 2024), 2024
Herausgeber: Schloss Dagstuhl -- Leibniz-Zentrum fur Informatik
DOI: 10.4230/lipics.csl.2024.5

Tools at the Frontiers of Quantitative Verification

Autoren: Roman Andriushchenko, Alexander Bork, Carlos E. Budde, Milan Češka, Kush Grover, Ernst Moritz Hahn, Arnd Hartmanns, Bryant Israelsen, Nils Jansen, Joshua Jeppson, Sebastian Junges, Maximilian A. Köhl, Bettina Könighofer, Jan Křetínský, Tobias Meggendorfer, David Parker, Stefan Pranger, Tim Quatmann, Enno Ruijters, Landon Taylor, Matthias Volk, Maximilian Weininger, Zhen Zhang
Veröffentlicht in: TOOLympics III, 2024
Herausgeber: Springer
DOI: 10.48550/arxiv.2405.13583

Adversarial Robustness Guarantees for Classification with Gaussian Processes

Autoren: Arno Blaas, Andrea Patane, Luca Laurenti, Luca Cardelli, Marta Kwiatkowska, Stephen Roberts
Veröffentlicht in: Proceedings of the Twenty Third International Conference on Artificial Intelligence and Statistics (AISTATS 2020), 2020
Herausgeber: PMLR
DOI: 10.48550/arxiv.1905.11876

Probabilistic Timed ATL

Autoren: Wojciech Jamroga, Marta Kwiatkowska, Wojciech Penczek, Laure Petrucci, Teofil Sidoruk
Veröffentlicht in: 24th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2025, 2025
Herausgeber: TBC

Reactive and human-in-the-loop planning and control of multi-robot systems under LTL specifications in dynamic environments

Autoren: Pian Yu, Gianmarco Fedeli and Dimos V. Dimarogonas
Veröffentlicht in: 9th International Conference on Control, Decision and Information Technologies (CoDIT 2023), 2023
Herausgeber: EEE Xplore
DOI: 10.48550/arxiv.2307.06000

Robustness Guarantees for Deep Neural Networks on Videos

Autoren: Min Wu, Marta Kwiatkowska
Veröffentlicht in: 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2020, Seite(n) 308-317, ISBN 978-1-7281-7168-5
Herausgeber: IEEE
DOI: 10.1109/cvpr42600.2020.00039

Tractable Uncertainty for Structure Learning

Autoren: Benjie Wang, Matthew Wicker, Marta Kwiatkowska
Veröffentlicht in: In 5th Workshop on Tractable Probabilistic Modelling (TPM). This paper was accepted for ICML 2022, Ausgabe 162, 2022, Seite(n) 23131-23150
Herausgeber: PMLR

Trust-Aware Motion Planning for Human-Robot Collaboration under Distribution Temporal Logic Specifications

Autoren: Yu, Pian; Dong, Shuyang; Sheng, Shili; Feng, Lu; Kwiatkowska, Marta
Veröffentlicht in: 2024 IEEE International Conference on Robotics and Automation (ICRA2024), 2024
Herausgeber: IEEE
DOI: 10.48550/arxiv.2310.01163

Probabilistic Model Checking: Applications and Trends

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker
Veröffentlicht in: Lecture Notes in Computer Science, Principles of Formal Quantitative Analysis, 2025, Seite(n) 158-173
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-97439-7_7

Symbolic Verification and Strategy Synthesis for Turn-based Stochastic Games

Autoren: Marta Kwiatkowska, Gethin Norman, David Parker, Gabriel Santos
Veröffentlicht in: Principles of Systems Design, Lecture Notes in Computer Science, 2022, Seite(n) 9783031223365, ISBN 978-3-031-22336-5
Herausgeber: Springer
DOI: 10.1007/978-3-031-22337-2_19

Veröffentlichungen

Diese Seite teilen Diese Seite in sozialen Netzwerken teilen

Herunterladen Den Inhalt der Seite herunterladen