Vigilant Algorithmic Monitoring of Software

Projektinformationen

VAMOS

ID Finanzhilfevereinbarung: 101020093

DOI

10.3030/101020093

EK-Unterschriftsdatum 8 Juli 2021

Startdatum 1 Januar 2022

Enddatum 31 Dezember 2026

Finanziert unter

• EXCELLENT SCIENCE - European Research Council (ERC)

Gesamtkosten

€ 2 451 281,00

EU-Beitrag

€ 2 451 281,00

Koordiniert durch

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Austria

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Veröffentlichungen

Conference proceedings (30)

Learning control policies for stochastic systems with reach-avoid guarantees

Autoren: Zikelic D, Lechner M, Henzinger TA, Chatterjee K
Veröffentlicht in: AAAI 2023, 2023
Herausgeber: AAAI
DOI: 10.1609/aaai.v37i10.26407

History-deterministic timed automata

Autoren: Henzinger TA, Lehtinen K, Totzke P
Veröffentlicht in: CONCUR 2022, 2022
Herausgeber: LIPIcs
DOI: 10.4230/lipics.concur.2022.14

Bidding Games with Charging

Autoren: Guy Avni, Ehsan Kafshdar Goharshady, Thomas A. Henzinger, and Kaushik Mallik.
Veröffentlicht in: 2024
Herausgeber: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.8

Abstraction-based decision making for statistical properties

Autoren: Cano F, Henzinger TA, Koenighofer B, Kueffner K, Mallik K
Veröffentlicht in: FSCD 2024, 2024
Herausgeber: LIPIcs
DOI: 10.4230/lipics.fscd.2024.2

Stability verification in stochastic control systems via neural network supermartingales

Autoren: Lechner M, Zikelic D, Chatterjee K, Henzinger TA
Veröffentlicht in: AAAI 2022, 2023
Herausgeber: AAAI
DOI: 10.1609/aaai.v36i7.20695

Monitoring hyperproperties with prefix transducers

Autoren: Chalupa M, Henzinger TA
Veröffentlicht in: RV 2023, 2023
Herausgeber: Springer
DOI: 10.1007/978-3-031-44267-4_9

Predictive Monitoring of Black-Box Dynamical Systems

Autoren: Henzinger, Thomas A; Kresse, Fabian; Mallik, Kaushik; Yu, Zhengqi; Zikelic, Dorde
Veröffentlicht in: CoRR, Ausgabe 11, 2025
Herausgeber: ML Research Press
DOI: 10.48550/arxiv.2412.16564

Monitoring algorithmic fairness under partial observations

Autoren: Henzinger TA, Kueffner K, Mallik K
Veröffentlicht in: RV 2023, 2023
Herausgeber: Springer
DOI: 10.1007/978-3-031-44267-4_15

Privacy-Preserving Runtime Verification

Autoren: Thomas A. Henzinger, Mahyar Karimi, K. S. Thejaswini
Veröffentlicht in: Proceedings of the 2025 ACM SIGSAC Conference on Computer and Communications Security, 2025, Seite(n) 2774-2787
Herausgeber: ACM
DOI: 10.1145/3719027.3765137

Bubaak: Runtime monitoring of program verifiers

Autoren: Chalupa M, Henzinger TA.
Veröffentlicht in: TACAS 2023, 2023
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-30820-8_32

Compositional policy learning in stochastic control systems with formal guarantees

Autoren: Zikelic D, Lechner M, Verma A, Chatterjee K, Henzinger TA
Veröffentlicht in: NeurIPS 2023, 2023
Herausgeber: NeurIPS

Energy Shields for Fairness

Autoren: Filip Cano, Thomas Henzinger, Konstantin Kueffner
Veröffentlicht in: Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency, 2026, Seite(n) 4243-4275
Herausgeber: ACM
DOI: 10.1145/3805689.3806807

A learner-verifier framework for neural network controllers and certificates of stochastic systems

Autoren: Chatterjee K, Henzinger TA, Lechner M, Zikelic D.
Veröffentlicht in: TACAS 2023, 2023
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-30823-9_1

Monitoring algorithmic fairness

Autoren: Henzinger TA, Karimi M, Kueffner K, Mallik K.
Veröffentlicht in: CAV 2023, 2023
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-37703-7_17

Vamos: Middleware for best-effort third-party monitoring

Autoren: Chalupa M, Mühlböck F, Muroya Lei S, Henzinger TA.
Veröffentlicht in: FASE 2023, 2023
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-30826-0_15

Quantitative safety and liveness

Autoren: Henzinger TA, Mazzocchi NA, Sarac NE
Veröffentlicht in: FOSSACS 2023, 2023
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-30829-1_17

History-Determinism vs Fair Simulation.

Autoren: Udi Boker, Thomas A. Henzinger, Karoliina Lehtinen, and Aditya Prakash
Veröffentlicht in: 2024
Herausgeber: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.12

Quantization-aware interval bound propagation for training certifiably robust quantized neural networks

Autoren: Lechner M, Zikelic D, Chatterjee K, Henzinger TA, Rus D
Veröffentlicht in: AAAI 2023, 2023
Herausgeber: AAAI
DOI: 10.1609/aaai.v37i12.26747

Runtime monitoring of dynamic fairness properties

Autoren: Henzinger TA, Karimi M, Kueffner K, Mallik K
Veröffentlicht in: FAccT 2023, 2023
Herausgeber: Association for Computing Machinery
DOI: 10.1145/3593013.3594028

Safety and liveness of quantitative automata

Autoren: Boker U, Henzinger TA, Mazzocchi NA, Sarac NE
Veröffentlicht in: CONCUR 2023, 2023
Herausgeber: LIPIcs
DOI: 10.4230/lipics.concur.2023.17

Regular methods for operator precedence languages

Autoren: Henzinger TA, Kebis P, Mazzocchi NA, Sarac NE.
Veröffentlicht in: ICALP 2023, 2023
Herausgeber: ICALP: International Colloquium on Automata, Languages, and Programming
DOI: 10.4230/lipics.icalp.2023.129

Monitoring Robustness and Individual Fairness

Autoren: Ashutosh Gupta, Thomas A. Henzinger, Konstantin Kueffner, Kaushik Mallik, David Pape
Veröffentlicht in: Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2, 2026, Seite(n) 790-801
Herausgeber: ACM
DOI: 10.1145/3711896.3737054

History-deterministic timed automata are not determinizable

Autoren: Bose S, Henzinger TA, Lehtinen K, Schewe S, Totzke P.
Veröffentlicht in: RP 2022, 2022
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-19135-0_5

Compositional policy learning in stochastic control systems with formal guarantees

Autoren: Dorde Zikelic, Mathias Lechner, Abhinav Verma, Krishnendu Chatterjee, Thomas A. Henzinger
Veröffentlicht in: 2023
Herausgeber: NeurIPS: Neural Information Processing Systems

Synthesis of parametric hybrid automata from time series

Autoren: García Soto M, Henzinger TA, Schilling C
Veröffentlicht in: ATVA 2022, 2022
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-19992-9_22

Supermartingale Certificates for Quantitative Omega-Regular Verification and Control

Autoren: Thomas A. Henzinger, Kaushik Mallik, Pouya Sadeghi, Đorđe Žikelić
Veröffentlicht in: Lecture Notes in Computer Science, Computer Aided Verification, 2026, Seite(n) 29-55
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-98679-6_2

Cooperative Software Verification via Dynamic Program Splitting

Autoren: Cedric Richter, Marek Chalupa, Marie-Christine Jakobs, Heike Wehrheim
Veröffentlicht in: 2025 IEEE/ACM 47th International Conference on Software Engineering (ICSE), 2025, Seite(n) 2087-2099
Herausgeber: IEEE
DOI: 10.1109/icse55347.2025.00092

Abstract monitors for quantitative specifications

Autoren: Henzinger TA, Mazzocchi NA, Sarac NE.
Veröffentlicht in: RV 2022, 2022
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-17196-3_11

Strategic dominance: A new preorder for nondeterministic processes

Autoren: Thomas A. Henzinger, Nicolas Mazzocchi, and N. Ege Saraç
Veröffentlicht in: 2024
Herausgeber: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.29

Learning provably stabilizing neural controllers for discrete-time stochastic systems

Autoren: Ansaripour M, Chatterjee K, Henzinger TA, Lechner M, Zikelic D
Veröffentlicht in: ATVA 2023, 2023
Herausgeber: Springer
DOI: 10.1007/978-3-031-45329-8_17

Peer reviewed articles (7)

Fairness Shields: Safeguarding against Biased Decision Makers

Autoren: Filip Cano, Thomas A. Henzinger, Bettina Könighofer, Konstantin Kueffner, Kaushik Mallik
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 39, 2025, Seite(n) 15659-15668, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i15.33719

Into the unknown: Active monitoring of neural networks

Autoren: Kueffner K, Lukina A,Schilling C, Henzinger TA
Veröffentlicht in: Software Tools for Technology Transfer, 2023, ISSN 1433-2779
Herausgeber: Springer Verlag
DOI: 10.1007/s10009-023-00711-4

History-deterministic Timed Automata

Autoren: Sougata Bose, Thomas A. Henzinger, Karoliina Lehtinen, Sven Schewe, Patrick Totzke
Veröffentlicht in: Logical Methods in Computer Science, Ausgabe Volume 20, Ausgabe 4, 2024, ISSN 1860-5974
Herausgeber: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-20(4:1)2024

Regular Methods for Operator Precedence Languages

Autoren: Henzinger, Thomas A.; Kebis, Pavol; Mazzocchi, Nicolas; Saraç, N. Ege
Veröffentlicht in: Schloss Dagstuhl - Leibniz-Zentrum für Informatik, Ausgabe 2, 2023, ISSN 1868-8969
Herausgeber: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.48550/arxiv.2305.03447

Neural Control and Certificate Repair via Runtime Monitoring

Autoren: Emily Yu, Đorđe Žikelić, Thomas A. Henzinger
Veröffentlicht in: Proceedings of the AAAI Conference on Artificial Intelligence, Ausgabe 39, 2025, Seite(n) 26409-26417, ISSN 2374-3468
Herausgeber: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i25.34840

Safety and Liveness of Quantitative Properties and Automata

Autoren: Udi Boker, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Veröffentlicht in: Logical Methods in Computer Science, Ausgabe Volume 21, Ausgabe 2, 2025, ISSN 1860-5974
Herausgeber: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-21(2:2)2025

Certificates in AI: Learn but Verify

Autoren: Clark Barrett, Thomas A. Henzinger, Sanjit A. Seshia
Veröffentlicht in: Communications of the ACM, Ausgabe 69, 2025, Seite(n) 66-75, ISSN 0001-0782
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3737447

Book chapters (12)

Monitoring Hypernode Logic Over Infinite Domains

Autoren: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Veröffentlicht in: Lecture Notes in Computer Science, Runtime Verification, 2025, Seite(n) 417-437
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_23

Automating the Analysis of Quantitative Automata with QuAK

Autoren: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Veröffentlicht in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Seite(n) 303-312
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90643-5_16

Quantitative Monitoring of Signal First-Order Logic

Autoren: Marek Chalupa, Thomas A. Henzinger, N. Ege Saraç, Emily Yu
Veröffentlicht in: Lecture Notes in Computer Science, Formal Methods, 2026, Seite(n) 214-233
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-26220-2_11

Formal Verification of Neural Certificates Done Dynamically

Autoren: Thomas A. Henzinger, Konstantin Kueffner, Emily Yu
Veröffentlicht in: Lecture Notes in Computer Science, Runtime Verification, 2025, Seite(n) 54-72
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_4

QuAK: Quantitative Automata Kit

Autoren: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Veröffentlicht in: Lecture Notes in Computer Science, Leveraging Applications of Formal Methods, Verification and Validation. Software Engineering Methodologies, 2024, Seite(n) 3-20
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-75387-9_1

BUBAAK: Dynamic Cooperative Verification

Autoren: Marek Chalupa, Cedric Richter
Veröffentlicht in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Seite(n) 212-216
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90660-2_14

Bubaak-SpLit: Split what you cannot verify (Competition contribution)

Autoren: Marek Chalupa, Cedric Richter
Veröffentlicht in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Seite(n) 353-358
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_20

Alignment Monitoring

Autoren: Thomas A. Henzinger, Konstantin Kueffner, Vasu Singh, I. Sun
Veröffentlicht in: Lecture Notes in Computer Science, Runtime Verification, 2025, Seite(n) 140-159
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_9

Approximate Distributed Monitoring Under Partial Synchrony: Balancing Speed & Accuracy

Autoren: Borzoo Bonakdarpour, Anik Momtaz, Dejan Ničković, N. Ege Saraç
Veröffentlicht in: Lecture Notes in Computer Science, Runtime Verification, 2024, Seite(n) 282-301
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-74234-7_18

Monitoring Extended Hypernode Logic

Autoren: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Veröffentlicht in: Lecture Notes in Computer Science, Integrated Formal Methods, 2025, Seite(n) 151-171
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-76554-4_9

Auction-Based Scheduling

Autoren: Guy Avni, Kaushik Mallik, Suman Sadhukhan
Veröffentlicht in: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Seite(n) 153-172
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_8

Algorithmic Fairness: A Runtime Perspective

Autoren: Filip Cano, Thomas A. Henzinger, Konstantin Kueffner
Veröffentlicht in: Lecture Notes in Computer Science, Runtime Verification, 2025, Seite(n) 1-21
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_1

Monographic books (1)

Computer Aided Verification

Autoren: Henzinger, T.A., Karimi, M., Kueffner, K., Mallik, K.
Veröffentlicht in: Lecture Notes in Computer Science, 2023
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-031-37709-9