Vigilant Algorithmic Monitoring of Software

Informazioni relative al progetto

VAMOS

ID dell’accordo di sovvenzione: 101020093

DOI

10.3030/101020093

Data della firma CE 8 Luglio 2021

Data di avvio 1 Gennaio 2022

Data di completamento 31 Dicembre 2026

Finanziato da

• EXCELLENT SCIENCE - European Research Council (ERC)

Costo totale

€ 2 451 281,00

Contributo UE

€ 2 451 281,00

Coordinato da

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Austria

CORDIS fornisce collegamenti ai risultati finali pubblici e alle pubblicazioni dei progetti ORIZZONTE.

I link ai risultati e alle pubblicazioni dei progetti del 7° PQ, così come i link ad alcuni tipi di risultati specifici come dataset e software, sono recuperati dinamicamente da .OpenAIRE .

Pubblicazioni

Conference proceedings (30)

Learning control policies for stochastic systems with reach-avoid guarantees

Autori: Zikelic D, Lechner M, Henzinger TA, Chatterjee K
Pubblicato in: AAAI 2023, 2023
Editore: AAAI
DOI: 10.1609/aaai.v37i10.26407

History-deterministic timed automata

Autori: Henzinger TA, Lehtinen K, Totzke P
Pubblicato in: CONCUR 2022, 2022
Editore: LIPIcs
DOI: 10.4230/lipics.concur.2022.14

Bidding Games with Charging

Autori: Guy Avni, Ehsan Kafshdar Goharshady, Thomas A. Henzinger, and Kaushik Mallik.
Pubblicato in: 2024
Editore: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.8

Abstraction-based decision making for statistical properties

Autori: Cano F, Henzinger TA, Koenighofer B, Kueffner K, Mallik K
Pubblicato in: FSCD 2024, 2024
Editore: LIPIcs
DOI: 10.4230/lipics.fscd.2024.2

Stability verification in stochastic control systems via neural network supermartingales

Autori: Lechner M, Zikelic D, Chatterjee K, Henzinger TA
Pubblicato in: AAAI 2022, 2023
Editore: AAAI
DOI: 10.1609/aaai.v36i7.20695

Monitoring hyperproperties with prefix transducers

Autori: Chalupa M, Henzinger TA
Pubblicato in: RV 2023, 2023
Editore: Springer
DOI: 10.1007/978-3-031-44267-4_9

Predictive Monitoring of Black-Box Dynamical Systems

Autori: Henzinger, Thomas A; Kresse, Fabian; Mallik, Kaushik; Yu, Zhengqi; Zikelic, Dorde
Pubblicato in: CoRR, Numero 11, 2025
Editore: ML Research Press
DOI: 10.48550/arxiv.2412.16564

Monitoring algorithmic fairness under partial observations

Autori: Henzinger TA, Kueffner K, Mallik K
Pubblicato in: RV 2023, 2023
Editore: Springer
DOI: 10.1007/978-3-031-44267-4_15

Privacy-Preserving Runtime Verification

Autori: Thomas A. Henzinger, Mahyar Karimi, K. S. Thejaswini
Pubblicato in: Proceedings of the 2025 ACM SIGSAC Conference on Computer and Communications Security, 2025, Pagina/e 2774-2787
Editore: ACM
DOI: 10.1145/3719027.3765137

Bubaak: Runtime monitoring of program verifiers

Autori: Chalupa M, Henzinger TA.
Pubblicato in: TACAS 2023, 2023
Editore: Springer Nature
DOI: 10.1007/978-3-031-30820-8_32

Compositional policy learning in stochastic control systems with formal guarantees

Autori: Zikelic D, Lechner M, Verma A, Chatterjee K, Henzinger TA
Pubblicato in: NeurIPS 2023, 2023
Editore: NeurIPS

Energy Shields for Fairness

Autori: Filip Cano, Thomas Henzinger, Konstantin Kueffner
Pubblicato in: Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency, 2026, Pagina/e 4243-4275
Editore: ACM
DOI: 10.1145/3805689.3806807

A learner-verifier framework for neural network controllers and certificates of stochastic systems

Autori: Chatterjee K, Henzinger TA, Lechner M, Zikelic D.
Pubblicato in: TACAS 2023, 2023
Editore: Springer Nature
DOI: 10.1007/978-3-031-30823-9_1

Monitoring algorithmic fairness

Autori: Henzinger TA, Karimi M, Kueffner K, Mallik K.
Pubblicato in: CAV 2023, 2023
Editore: Springer Nature
DOI: 10.1007/978-3-031-37703-7_17

Vamos: Middleware for best-effort third-party monitoring

Autori: Chalupa M, Mühlböck F, Muroya Lei S, Henzinger TA.
Pubblicato in: FASE 2023, 2023
Editore: Springer Nature
DOI: 10.1007/978-3-031-30826-0_15

Quantitative safety and liveness

Autori: Henzinger TA, Mazzocchi NA, Sarac NE
Pubblicato in: FOSSACS 2023, 2023
Editore: Springer Nature
DOI: 10.1007/978-3-031-30829-1_17

History-Determinism vs Fair Simulation.

Autori: Udi Boker, Thomas A. Henzinger, Karoliina Lehtinen, and Aditya Prakash
Pubblicato in: 2024
Editore: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.12

Quantization-aware interval bound propagation for training certifiably robust quantized neural networks

Autori: Lechner M, Zikelic D, Chatterjee K, Henzinger TA, Rus D
Pubblicato in: AAAI 2023, 2023
Editore: AAAI
DOI: 10.1609/aaai.v37i12.26747

Runtime monitoring of dynamic fairness properties

Autori: Henzinger TA, Karimi M, Kueffner K, Mallik K
Pubblicato in: FAccT 2023, 2023
Editore: Association for Computing Machinery
DOI: 10.1145/3593013.3594028

Safety and liveness of quantitative automata

Autori: Boker U, Henzinger TA, Mazzocchi NA, Sarac NE
Pubblicato in: CONCUR 2023, 2023
Editore: LIPIcs
DOI: 10.4230/lipics.concur.2023.17

Regular methods for operator precedence languages

Autori: Henzinger TA, Kebis P, Mazzocchi NA, Sarac NE.
Pubblicato in: ICALP 2023, 2023
Editore: ICALP: International Colloquium on Automata, Languages, and Programming
DOI: 10.4230/lipics.icalp.2023.129

Monitoring Robustness and Individual Fairness

Autori: Ashutosh Gupta, Thomas A. Henzinger, Konstantin Kueffner, Kaushik Mallik, David Pape
Pubblicato in: Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2, 2026, Pagina/e 790-801
Editore: ACM
DOI: 10.1145/3711896.3737054

History-deterministic timed automata are not determinizable

Autori: Bose S, Henzinger TA, Lehtinen K, Schewe S, Totzke P.
Pubblicato in: RP 2022, 2022
Editore: Springer Nature
DOI: 10.1007/978-3-031-19135-0_5

Compositional policy learning in stochastic control systems with formal guarantees

Autori: Dorde Zikelic, Mathias Lechner, Abhinav Verma, Krishnendu Chatterjee, Thomas A. Henzinger
Pubblicato in: 2023
Editore: NeurIPS: Neural Information Processing Systems

Synthesis of parametric hybrid automata from time series

Autori: García Soto M, Henzinger TA, Schilling C
Pubblicato in: ATVA 2022, 2022
Editore: Springer Nature
DOI: 10.1007/978-3-031-19992-9_22

Supermartingale Certificates for Quantitative Omega-Regular Verification and Control

Autori: Thomas A. Henzinger, Kaushik Mallik, Pouya Sadeghi, Đorđe Žikelić
Pubblicato in: Lecture Notes in Computer Science, Computer Aided Verification, 2026, Pagina/e 29-55
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-98679-6_2

Cooperative Software Verification via Dynamic Program Splitting

Autori: Cedric Richter, Marek Chalupa, Marie-Christine Jakobs, Heike Wehrheim
Pubblicato in: 2025 IEEE/ACM 47th International Conference on Software Engineering (ICSE), 2025, Pagina/e 2087-2099
Editore: IEEE
DOI: 10.1109/icse55347.2025.00092

Abstract monitors for quantitative specifications

Autori: Henzinger TA, Mazzocchi NA, Sarac NE.
Pubblicato in: RV 2022, 2022
Editore: Springer Nature
DOI: 10.1007/978-3-031-17196-3_11

Strategic dominance: A new preorder for nondeterministic processes

Autori: Thomas A. Henzinger, Nicolas Mazzocchi, and N. Ege Saraç
Pubblicato in: 2024
Editore: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.29

Learning provably stabilizing neural controllers for discrete-time stochastic systems

Autori: Ansaripour M, Chatterjee K, Henzinger TA, Lechner M, Zikelic D
Pubblicato in: ATVA 2023, 2023
Editore: Springer
DOI: 10.1007/978-3-031-45329-8_17

Peer reviewed articles (7)

Fairness Shields: Safeguarding against Biased Decision Makers

Autori: Filip Cano, Thomas A. Henzinger, Bettina Könighofer, Konstantin Kueffner, Kaushik Mallik
Pubblicato in: Proceedings of the AAAI Conference on Artificial Intelligence, Numero 39, 2025, Pagina/e 15659-15668, ISSN 2374-3468
Editore: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i15.33719

Into the unknown: Active monitoring of neural networks

Autori: Kueffner K, Lukina A,Schilling C, Henzinger TA
Pubblicato in: Software Tools for Technology Transfer, 2023, ISSN 1433-2779
Editore: Springer Verlag
DOI: 10.1007/s10009-023-00711-4

History-deterministic Timed Automata

Autori: Sougata Bose, Thomas A. Henzinger, Karoliina Lehtinen, Sven Schewe, Patrick Totzke
Pubblicato in: Logical Methods in Computer Science, Numero Volume 20, Numero 4, 2024, ISSN 1860-5974
Editore: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-20(4:1)2024

Regular Methods for Operator Precedence Languages

Autori: Henzinger, Thomas A.; Kebis, Pavol; Mazzocchi, Nicolas; Saraç, N. Ege
Pubblicato in: Schloss Dagstuhl - Leibniz-Zentrum für Informatik, Numero 2, 2023, ISSN 1868-8969
Editore: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.48550/arxiv.2305.03447

Neural Control and Certificate Repair via Runtime Monitoring

Autori: Emily Yu, Đorđe Žikelić, Thomas A. Henzinger
Pubblicato in: Proceedings of the AAAI Conference on Artificial Intelligence, Numero 39, 2025, Pagina/e 26409-26417, ISSN 2374-3468
Editore: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i25.34840

Safety and Liveness of Quantitative Properties and Automata

Autori: Udi Boker, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Pubblicato in: Logical Methods in Computer Science, Numero Volume 21, Numero 2, 2025, ISSN 1860-5974
Editore: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-21(2:2)2025

Certificates in AI: Learn but Verify

Autori: Clark Barrett, Thomas A. Henzinger, Sanjit A. Seshia
Pubblicato in: Communications of the ACM, Numero 69, 2025, Pagina/e 66-75, ISSN 0001-0782
Editore: Association for Computing Machinary, Inc.
DOI: 10.1145/3737447

Book chapters (12)

Monitoring Hypernode Logic Over Infinite Domains

Autori: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Pubblicato in: Lecture Notes in Computer Science, Runtime Verification, 2025, Pagina/e 417-437
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_23

Automating the Analysis of Quantitative Automata with QuAK

Autori: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Pubblicato in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Pagina/e 303-312
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90643-5_16

Quantitative Monitoring of Signal First-Order Logic

Autori: Marek Chalupa, Thomas A. Henzinger, N. Ege Saraç, Emily Yu
Pubblicato in: Lecture Notes in Computer Science, Formal Methods, 2026, Pagina/e 214-233
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-032-26220-2_11

Formal Verification of Neural Certificates Done Dynamically

Autori: Thomas A. Henzinger, Konstantin Kueffner, Emily Yu
Pubblicato in: Lecture Notes in Computer Science, Runtime Verification, 2025, Pagina/e 54-72
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_4

QuAK: Quantitative Automata Kit

Autori: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Pubblicato in: Lecture Notes in Computer Science, Leveraging Applications of Formal Methods, Verification and Validation. Software Engineering Methodologies, 2024, Pagina/e 3-20
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-75387-9_1

BUBAAK: Dynamic Cooperative Verification

Autori: Marek Chalupa, Cedric Richter
Pubblicato in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Pagina/e 212-216
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90660-2_14

Bubaak-SpLit: Split what you cannot verify (Competition contribution)

Autori: Marek Chalupa, Cedric Richter
Pubblicato in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Pagina/e 353-358
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_20

Alignment Monitoring

Autori: Thomas A. Henzinger, Konstantin Kueffner, Vasu Singh, I. Sun
Pubblicato in: Lecture Notes in Computer Science, Runtime Verification, 2025, Pagina/e 140-159
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_9

Approximate Distributed Monitoring Under Partial Synchrony: Balancing Speed & Accuracy

Autori: Borzoo Bonakdarpour, Anik Momtaz, Dejan Ničković, N. Ege Saraç
Pubblicato in: Lecture Notes in Computer Science, Runtime Verification, 2024, Pagina/e 282-301
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-74234-7_18

Monitoring Extended Hypernode Logic

Autori: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Pubblicato in: Lecture Notes in Computer Science, Integrated Formal Methods, 2025, Pagina/e 151-171
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-76554-4_9

Auction-Based Scheduling

Autori: Guy Avni, Kaushik Mallik, Suman Sadhukhan
Pubblicato in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Pagina/e 153-172
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_8

Algorithmic Fairness: A Runtime Perspective

Autori: Filip Cano, Thomas A. Henzinger, Konstantin Kueffner
Pubblicato in: Lecture Notes in Computer Science, Runtime Verification, 2025, Pagina/e 1-21
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_1

Monographic books (1)

Computer Aided Verification

Autori: Henzinger, T.A., Karimi, M., Kueffner, K., Mallik, K.
Pubblicato in: Lecture Notes in Computer Science, 2023
Editore: Springer Nature Switzerland
DOI: 10.1007/978-3-031-37709-9