Vigilant Algorithmic Monitoring of Software

Informations projet

VAMOS

N° de convention de subvention: 101020093

DOI

10.3030/101020093

Date de signature de la CE 8 Juillet 2021

Date de début 1 Janvier 2022

Date de fin 31 Decembre 2026

Financé au titre de

• EXCELLENT SCIENCE - European Research Council (ERC)

Coût total

€ 2 451 281,00

Contribution de l’UE

€ 2 451 281,00

Coordonné par

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Austria

CORDIS fournit des liens vers les livrables publics et les publications des projets HORIZON.

Les liens vers les livrables et les publications des projets du 7e PC, ainsi que les liens vers certains types de résultats spécifiques tels que les jeux de données et les logiciels, sont récupérés dynamiquement sur OpenAIRE .

Publications

Conference proceedings (30)

Learning control policies for stochastic systems with reach-avoid guarantees

Auteurs: Zikelic D, Lechner M, Henzinger TA, Chatterjee K
Publié dans: AAAI 2023, 2023
Éditeur: AAAI
DOI: 10.1609/aaai.v37i10.26407

History-deterministic timed automata

Auteurs: Henzinger TA, Lehtinen K, Totzke P
Publié dans: CONCUR 2022, 2022
Éditeur: LIPIcs
DOI: 10.4230/lipics.concur.2022.14

Bidding Games with Charging

Auteurs: Guy Avni, Ehsan Kafshdar Goharshady, Thomas A. Henzinger, and Kaushik Mallik.
Publié dans: 2024
Éditeur: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.8

Abstraction-based decision making for statistical properties

Auteurs: Cano F, Henzinger TA, Koenighofer B, Kueffner K, Mallik K
Publié dans: FSCD 2024, 2024
Éditeur: LIPIcs
DOI: 10.4230/lipics.fscd.2024.2

Stability verification in stochastic control systems via neural network supermartingales

Auteurs: Lechner M, Zikelic D, Chatterjee K, Henzinger TA
Publié dans: AAAI 2022, 2023
Éditeur: AAAI
DOI: 10.1609/aaai.v36i7.20695

Monitoring hyperproperties with prefix transducers

Auteurs: Chalupa M, Henzinger TA
Publié dans: RV 2023, 2023
Éditeur: Springer
DOI: 10.1007/978-3-031-44267-4_9

Predictive Monitoring of Black-Box Dynamical Systems

Auteurs: Henzinger, Thomas A; Kresse, Fabian; Mallik, Kaushik; Yu, Zhengqi; Zikelic, Dorde
Publié dans: CoRR, Numéro 11, 2025
Éditeur: ML Research Press
DOI: 10.48550/arxiv.2412.16564

Monitoring algorithmic fairness under partial observations

Auteurs: Henzinger TA, Kueffner K, Mallik K
Publié dans: RV 2023, 2023
Éditeur: Springer
DOI: 10.1007/978-3-031-44267-4_15

Privacy-Preserving Runtime Verification

Auteurs: Thomas A. Henzinger, Mahyar Karimi, K. S. Thejaswini
Publié dans: Proceedings of the 2025 ACM SIGSAC Conference on Computer and Communications Security, 2025, Page(s) 2774-2787
Éditeur: ACM
DOI: 10.1145/3719027.3765137

Bubaak: Runtime monitoring of program verifiers

Auteurs: Chalupa M, Henzinger TA.
Publié dans: TACAS 2023, 2023
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-30820-8_32

Compositional policy learning in stochastic control systems with formal guarantees

Auteurs: Zikelic D, Lechner M, Verma A, Chatterjee K, Henzinger TA
Publié dans: NeurIPS 2023, 2023
Éditeur: NeurIPS

Energy Shields for Fairness

Auteurs: Filip Cano, Thomas Henzinger, Konstantin Kueffner
Publié dans: Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency, 2026, Page(s) 4243-4275
Éditeur: ACM
DOI: 10.1145/3805689.3806807

A learner-verifier framework for neural network controllers and certificates of stochastic systems

Auteurs: Chatterjee K, Henzinger TA, Lechner M, Zikelic D.
Publié dans: TACAS 2023, 2023
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-30823-9_1

Monitoring algorithmic fairness

Auteurs: Henzinger TA, Karimi M, Kueffner K, Mallik K.
Publié dans: CAV 2023, 2023
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-37703-7_17

Vamos: Middleware for best-effort third-party monitoring

Auteurs: Chalupa M, Mühlböck F, Muroya Lei S, Henzinger TA.
Publié dans: FASE 2023, 2023
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-30826-0_15

Quantitative safety and liveness

Auteurs: Henzinger TA, Mazzocchi NA, Sarac NE
Publié dans: FOSSACS 2023, 2023
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-30829-1_17

History-Determinism vs Fair Simulation.

Auteurs: Udi Boker, Thomas A. Henzinger, Karoliina Lehtinen, and Aditya Prakash
Publié dans: 2024
Éditeur: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.12

Quantization-aware interval bound propagation for training certifiably robust quantized neural networks

Auteurs: Lechner M, Zikelic D, Chatterjee K, Henzinger TA, Rus D
Publié dans: AAAI 2023, 2023
Éditeur: AAAI
DOI: 10.1609/aaai.v37i12.26747

Runtime monitoring of dynamic fairness properties

Auteurs: Henzinger TA, Karimi M, Kueffner K, Mallik K
Publié dans: FAccT 2023, 2023
Éditeur: Association for Computing Machinery
DOI: 10.1145/3593013.3594028

Safety and liveness of quantitative automata

Auteurs: Boker U, Henzinger TA, Mazzocchi NA, Sarac NE
Publié dans: CONCUR 2023, 2023
Éditeur: LIPIcs
DOI: 10.4230/lipics.concur.2023.17

Regular methods for operator precedence languages

Auteurs: Henzinger TA, Kebis P, Mazzocchi NA, Sarac NE.
Publié dans: ICALP 2023, 2023
Éditeur: ICALP: International Colloquium on Automata, Languages, and Programming
DOI: 10.4230/lipics.icalp.2023.129

Monitoring Robustness and Individual Fairness

Auteurs: Ashutosh Gupta, Thomas A. Henzinger, Konstantin Kueffner, Kaushik Mallik, David Pape
Publié dans: Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2, 2026, Page(s) 790-801
Éditeur: ACM
DOI: 10.1145/3711896.3737054

History-deterministic timed automata are not determinizable

Auteurs: Bose S, Henzinger TA, Lehtinen K, Schewe S, Totzke P.
Publié dans: RP 2022, 2022
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-19135-0_5

Compositional policy learning in stochastic control systems with formal guarantees

Auteurs: Dorde Zikelic, Mathias Lechner, Abhinav Verma, Krishnendu Chatterjee, Thomas A. Henzinger
Publié dans: 2023
Éditeur: NeurIPS: Neural Information Processing Systems

Synthesis of parametric hybrid automata from time series

Auteurs: García Soto M, Henzinger TA, Schilling C
Publié dans: ATVA 2022, 2022
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-19992-9_22

Supermartingale Certificates for Quantitative Omega-Regular Verification and Control

Auteurs: Thomas A. Henzinger, Kaushik Mallik, Pouya Sadeghi, Đorđe Žikelić
Publié dans: Lecture Notes in Computer Science, Computer Aided Verification, 2026, Page(s) 29-55
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-98679-6_2

Cooperative Software Verification via Dynamic Program Splitting

Auteurs: Cedric Richter, Marek Chalupa, Marie-Christine Jakobs, Heike Wehrheim
Publié dans: 2025 IEEE/ACM 47th International Conference on Software Engineering (ICSE), 2025, Page(s) 2087-2099
Éditeur: IEEE
DOI: 10.1109/icse55347.2025.00092

Abstract monitors for quantitative specifications

Auteurs: Henzinger TA, Mazzocchi NA, Sarac NE.
Publié dans: RV 2022, 2022
Éditeur: Springer Nature
DOI: 10.1007/978-3-031-17196-3_11

Strategic dominance: A new preorder for nondeterministic processes

Auteurs: Thomas A. Henzinger, Nicolas Mazzocchi, and N. Ege Saraç
Publié dans: 2024
Éditeur: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.29

Learning provably stabilizing neural controllers for discrete-time stochastic systems

Auteurs: Ansaripour M, Chatterjee K, Henzinger TA, Lechner M, Zikelic D
Publié dans: ATVA 2023, 2023
Éditeur: Springer
DOI: 10.1007/978-3-031-45329-8_17

Peer reviewed articles (7)

Fairness Shields: Safeguarding against Biased Decision Makers

Auteurs: Filip Cano, Thomas A. Henzinger, Bettina Könighofer, Konstantin Kueffner, Kaushik Mallik
Publié dans: Proceedings of the AAAI Conference on Artificial Intelligence, Numéro 39, 2025, Page(s) 15659-15668, ISSN 2374-3468
Éditeur: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i15.33719

Into the unknown: Active monitoring of neural networks

Auteurs: Kueffner K, Lukina A,Schilling C, Henzinger TA
Publié dans: Software Tools for Technology Transfer, 2023, ISSN 1433-2779
Éditeur: Springer Verlag
DOI: 10.1007/s10009-023-00711-4

History-deterministic Timed Automata

Auteurs: Sougata Bose, Thomas A. Henzinger, Karoliina Lehtinen, Sven Schewe, Patrick Totzke
Publié dans: Logical Methods in Computer Science, Numéro Volume 20, Numéro 4, 2024, ISSN 1860-5974
Éditeur: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-20(4:1)2024

Regular Methods for Operator Precedence Languages

Auteurs: Henzinger, Thomas A.; Kebis, Pavol; Mazzocchi, Nicolas; Saraç, N. Ege
Publié dans: Schloss Dagstuhl - Leibniz-Zentrum für Informatik, Numéro 2, 2023, ISSN 1868-8969
Éditeur: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.48550/arxiv.2305.03447

Neural Control and Certificate Repair via Runtime Monitoring

Auteurs: Emily Yu, Đorđe Žikelić, Thomas A. Henzinger
Publié dans: Proceedings of the AAAI Conference on Artificial Intelligence, Numéro 39, 2025, Page(s) 26409-26417, ISSN 2374-3468
Éditeur: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i25.34840

Safety and Liveness of Quantitative Properties and Automata

Auteurs: Udi Boker, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Publié dans: Logical Methods in Computer Science, Numéro Volume 21, Numéro 2, 2025, ISSN 1860-5974
Éditeur: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-21(2:2)2025

Certificates in AI: Learn but Verify

Auteurs: Clark Barrett, Thomas A. Henzinger, Sanjit A. Seshia
Publié dans: Communications of the ACM, Numéro 69, 2025, Page(s) 66-75, ISSN 0001-0782
Éditeur: Association for Computing Machinary, Inc.
DOI: 10.1145/3737447

Book chapters (12)

Monitoring Hypernode Logic Over Infinite Domains

Auteurs: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Publié dans: Lecture Notes in Computer Science, Runtime Verification, 2025, Page(s) 417-437
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_23

Automating the Analysis of Quantitative Automata with QuAK

Auteurs: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Publié dans: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Page(s) 303-312
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90643-5_16

Quantitative Monitoring of Signal First-Order Logic

Auteurs: Marek Chalupa, Thomas A. Henzinger, N. Ege Saraç, Emily Yu
Publié dans: Lecture Notes in Computer Science, Formal Methods, 2026, Page(s) 214-233
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-032-26220-2_11

Formal Verification of Neural Certificates Done Dynamically

Auteurs: Thomas A. Henzinger, Konstantin Kueffner, Emily Yu
Publié dans: Lecture Notes in Computer Science, Runtime Verification, 2025, Page(s) 54-72
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_4

QuAK: Quantitative Automata Kit

Auteurs: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Publié dans: Lecture Notes in Computer Science, Leveraging Applications of Formal Methods, Verification and Validation. Software Engineering Methodologies, 2024, Page(s) 3-20
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-75387-9_1

BUBAAK: Dynamic Cooperative Verification

Auteurs: Marek Chalupa, Cedric Richter
Publié dans: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Page(s) 212-216
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90660-2_14

Bubaak-SpLit: Split what you cannot verify (Competition contribution)

Auteurs: Marek Chalupa, Cedric Richter
Publié dans: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Page(s) 353-358
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_20

Alignment Monitoring

Auteurs: Thomas A. Henzinger, Konstantin Kueffner, Vasu Singh, I. Sun
Publié dans: Lecture Notes in Computer Science, Runtime Verification, 2025, Page(s) 140-159
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_9

Approximate Distributed Monitoring Under Partial Synchrony: Balancing Speed & Accuracy

Auteurs: Borzoo Bonakdarpour, Anik Momtaz, Dejan Ničković, N. Ege Saraç
Publié dans: Lecture Notes in Computer Science, Runtime Verification, 2024, Page(s) 282-301
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-74234-7_18

Monitoring Extended Hypernode Logic

Auteurs: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Publié dans: Lecture Notes in Computer Science, Integrated Formal Methods, 2025, Page(s) 151-171
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-76554-4_9

Auction-Based Scheduling

Auteurs: Guy Avni, Kaushik Mallik, Suman Sadhukhan
Publié dans: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Page(s) 153-172
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_8

Algorithmic Fairness: A Runtime Perspective

Auteurs: Filip Cano, Thomas A. Henzinger, Konstantin Kueffner
Publié dans: Lecture Notes in Computer Science, Runtime Verification, 2025, Page(s) 1-21
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_1

Monographic books (1)

Computer Aided Verification

Auteurs: Henzinger, T.A., Karimi, M., Kueffner, K., Mallik, K.
Publié dans: Lecture Notes in Computer Science, 2023
Éditeur: Springer Nature Switzerland
DOI: 10.1007/978-3-031-37709-9