Vigilant Algorithmic Monitoring of Software

Informacje na temat projektu

VAMOS

Identyfikator umowy o grant: 101020093

DOI

10.3030/101020093

Data podpisania przez KE 8 Lipca 2021

Data rozpoczęcia 1 Stycznia 2022

Data zakończenia 31 Grudnia 2026

Finansowanie w ramach

• EXCELLENT SCIENCE - European Research Council (ERC)

Koszt całkowity

€ 2 451 281,00

Wkład UE

€ 2 451 281,00

Koordynowany przez

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Austria

CORDIS oferuje możliwość skorzystania z odnośników do publicznie dostępnych publikacji i rezultatów projektów realizowanych w ramach programów ramowych HORYZONT.

Odnośniki do rezultatów i publikacji związanych z poszczególnymi projektami 7PR, a także odnośniki do niektórych konkretnych kategorii wyników, takich jak zbiory danych i oprogramowanie, są dynamicznie pobierane z systemu OpenAIRE .

Publikacje

Conference proceedings (30)

Learning control policies for stochastic systems with reach-avoid guarantees

Autorzy: Zikelic D, Lechner M, Henzinger TA, Chatterjee K
Opublikowane w: AAAI 2023, 2023
Wydawca: AAAI
DOI: 10.1609/aaai.v37i10.26407

History-deterministic timed automata

Autorzy: Henzinger TA, Lehtinen K, Totzke P
Opublikowane w: CONCUR 2022, 2022
Wydawca: LIPIcs
DOI: 10.4230/lipics.concur.2022.14

Bidding Games with Charging

Autorzy: Guy Avni, Ehsan Kafshdar Goharshady, Thomas A. Henzinger, and Kaushik Mallik.
Opublikowane w: 2024
Wydawca: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.8

Abstraction-based decision making for statistical properties

Autorzy: Cano F, Henzinger TA, Koenighofer B, Kueffner K, Mallik K
Opublikowane w: FSCD 2024, 2024
Wydawca: LIPIcs
DOI: 10.4230/lipics.fscd.2024.2

Stability verification in stochastic control systems via neural network supermartingales

Autorzy: Lechner M, Zikelic D, Chatterjee K, Henzinger TA
Opublikowane w: AAAI 2022, 2023
Wydawca: AAAI
DOI: 10.1609/aaai.v36i7.20695

Monitoring hyperproperties with prefix transducers

Autorzy: Chalupa M, Henzinger TA
Opublikowane w: RV 2023, 2023
Wydawca: Springer
DOI: 10.1007/978-3-031-44267-4_9

Predictive Monitoring of Black-Box Dynamical Systems

Autorzy: Henzinger, Thomas A; Kresse, Fabian; Mallik, Kaushik; Yu, Zhengqi; Zikelic, Dorde
Opublikowane w: CoRR, Numer 11, 2025
Wydawca: ML Research Press
DOI: 10.48550/arxiv.2412.16564

Monitoring algorithmic fairness under partial observations

Autorzy: Henzinger TA, Kueffner K, Mallik K
Opublikowane w: RV 2023, 2023
Wydawca: Springer
DOI: 10.1007/978-3-031-44267-4_15

Privacy-Preserving Runtime Verification

Autorzy: Thomas A. Henzinger, Mahyar Karimi, K. S. Thejaswini
Opublikowane w: Proceedings of the 2025 ACM SIGSAC Conference on Computer and Communications Security, 2025, Strona(/y) 2774-2787
Wydawca: ACM
DOI: 10.1145/3719027.3765137

Bubaak: Runtime monitoring of program verifiers

Autorzy: Chalupa M, Henzinger TA.
Opublikowane w: TACAS 2023, 2023
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-30820-8_32

Compositional policy learning in stochastic control systems with formal guarantees

Autorzy: Zikelic D, Lechner M, Verma A, Chatterjee K, Henzinger TA
Opublikowane w: NeurIPS 2023, 2023
Wydawca: NeurIPS

Energy Shields for Fairness

Autorzy: Filip Cano, Thomas Henzinger, Konstantin Kueffner
Opublikowane w: Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency, 2026, Strona(/y) 4243-4275
Wydawca: ACM
DOI: 10.1145/3805689.3806807

A learner-verifier framework for neural network controllers and certificates of stochastic systems

Autorzy: Chatterjee K, Henzinger TA, Lechner M, Zikelic D.
Opublikowane w: TACAS 2023, 2023
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-30823-9_1

Monitoring algorithmic fairness

Autorzy: Henzinger TA, Karimi M, Kueffner K, Mallik K.
Opublikowane w: CAV 2023, 2023
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-37703-7_17

Vamos: Middleware for best-effort third-party monitoring

Autorzy: Chalupa M, Mühlböck F, Muroya Lei S, Henzinger TA.
Opublikowane w: FASE 2023, 2023
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-30826-0_15

Quantitative safety and liveness

Autorzy: Henzinger TA, Mazzocchi NA, Sarac NE
Opublikowane w: FOSSACS 2023, 2023
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-30829-1_17

History-Determinism vs Fair Simulation.

Autorzy: Udi Boker, Thomas A. Henzinger, Karoliina Lehtinen, and Aditya Prakash
Opublikowane w: 2024
Wydawca: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.12

Quantization-aware interval bound propagation for training certifiably robust quantized neural networks

Autorzy: Lechner M, Zikelic D, Chatterjee K, Henzinger TA, Rus D
Opublikowane w: AAAI 2023, 2023
Wydawca: AAAI
DOI: 10.1609/aaai.v37i12.26747

Runtime monitoring of dynamic fairness properties

Autorzy: Henzinger TA, Karimi M, Kueffner K, Mallik K
Opublikowane w: FAccT 2023, 2023
Wydawca: Association for Computing Machinery
DOI: 10.1145/3593013.3594028

Safety and liveness of quantitative automata

Autorzy: Boker U, Henzinger TA, Mazzocchi NA, Sarac NE
Opublikowane w: CONCUR 2023, 2023
Wydawca: LIPIcs
DOI: 10.4230/lipics.concur.2023.17

Regular methods for operator precedence languages

Autorzy: Henzinger TA, Kebis P, Mazzocchi NA, Sarac NE.
Opublikowane w: ICALP 2023, 2023
Wydawca: ICALP: International Colloquium on Automata, Languages, and Programming
DOI: 10.4230/lipics.icalp.2023.129

Monitoring Robustness and Individual Fairness

Autorzy: Ashutosh Gupta, Thomas A. Henzinger, Konstantin Kueffner, Kaushik Mallik, David Pape
Opublikowane w: Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2, 2026, Strona(/y) 790-801
Wydawca: ACM
DOI: 10.1145/3711896.3737054

History-deterministic timed automata are not determinizable

Autorzy: Bose S, Henzinger TA, Lehtinen K, Schewe S, Totzke P.
Opublikowane w: RP 2022, 2022
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-19135-0_5

Compositional policy learning in stochastic control systems with formal guarantees

Autorzy: Dorde Zikelic, Mathias Lechner, Abhinav Verma, Krishnendu Chatterjee, Thomas A. Henzinger
Opublikowane w: 2023
Wydawca: NeurIPS: Neural Information Processing Systems

Synthesis of parametric hybrid automata from time series

Autorzy: García Soto M, Henzinger TA, Schilling C
Opublikowane w: ATVA 2022, 2022
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-19992-9_22

Supermartingale Certificates for Quantitative Omega-Regular Verification and Control

Autorzy: Thomas A. Henzinger, Kaushik Mallik, Pouya Sadeghi, Đorđe Žikelić
Opublikowane w: Lecture Notes in Computer Science, Computer Aided Verification, 2026, Strona(/y) 29-55
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-98679-6_2

Cooperative Software Verification via Dynamic Program Splitting

Autorzy: Cedric Richter, Marek Chalupa, Marie-Christine Jakobs, Heike Wehrheim
Opublikowane w: 2025 IEEE/ACM 47th International Conference on Software Engineering (ICSE), 2025, Strona(/y) 2087-2099
Wydawca: IEEE
DOI: 10.1109/icse55347.2025.00092

Abstract monitors for quantitative specifications

Autorzy: Henzinger TA, Mazzocchi NA, Sarac NE.
Opublikowane w: RV 2022, 2022
Wydawca: Springer Nature
DOI: 10.1007/978-3-031-17196-3_11

Strategic dominance: A new preorder for nondeterministic processes

Autorzy: Thomas A. Henzinger, Nicolas Mazzocchi, and N. Ege Saraç
Opublikowane w: 2024
Wydawca: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2024.29

Learning provably stabilizing neural controllers for discrete-time stochastic systems

Autorzy: Ansaripour M, Chatterjee K, Henzinger TA, Lechner M, Zikelic D
Opublikowane w: ATVA 2023, 2023
Wydawca: Springer
DOI: 10.1007/978-3-031-45329-8_17

Peer reviewed articles (7)

Fairness Shields: Safeguarding against Biased Decision Makers

Autorzy: Filip Cano, Thomas A. Henzinger, Bettina Könighofer, Konstantin Kueffner, Kaushik Mallik
Opublikowane w: Proceedings of the AAAI Conference on Artificial Intelligence, Numer 39, 2025, Strona(/y) 15659-15668, ISSN 2374-3468
Wydawca: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i15.33719

Into the unknown: Active monitoring of neural networks

Autorzy: Kueffner K, Lukina A,Schilling C, Henzinger TA
Opublikowane w: Software Tools for Technology Transfer, 2023, ISSN 1433-2779
Wydawca: Springer Verlag
DOI: 10.1007/s10009-023-00711-4

History-deterministic Timed Automata

Autorzy: Sougata Bose, Thomas A. Henzinger, Karoliina Lehtinen, Sven Schewe, Patrick Totzke
Opublikowane w: Logical Methods in Computer Science, Numer Volume 20, Numer 4, 2024, ISSN 1860-5974
Wydawca: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-20(4:1)2024

Regular Methods for Operator Precedence Languages

Autorzy: Henzinger, Thomas A.; Kebis, Pavol; Mazzocchi, Nicolas; Saraç, N. Ege
Opublikowane w: Schloss Dagstuhl - Leibniz-Zentrum für Informatik, Numer 2, 2023, ISSN 1868-8969
Wydawca: Schloss Dagstuhl - Leibniz-Zentrum für Informatik
DOI: 10.48550/arxiv.2305.03447

Neural Control and Certificate Repair via Runtime Monitoring

Autorzy: Emily Yu, Đorđe Žikelić, Thomas A. Henzinger
Opublikowane w: Proceedings of the AAAI Conference on Artificial Intelligence, Numer 39, 2025, Strona(/y) 26409-26417, ISSN 2374-3468
Wydawca: Association for the Advancement of Artificial Intelligence (AAAI)
DOI: 10.1609/aaai.v39i25.34840

Safety and Liveness of Quantitative Properties and Automata

Autorzy: Udi Boker, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Opublikowane w: Logical Methods in Computer Science, Numer Volume 21, Numer 2, 2025, ISSN 1860-5974
Wydawca: Technischen Universitat Braunschweig
DOI: 10.46298/lmcs-21(2:2)2025

Certificates in AI: Learn but Verify

Autorzy: Clark Barrett, Thomas A. Henzinger, Sanjit A. Seshia
Opublikowane w: Communications of the ACM, Numer 69, 2025, Strona(/y) 66-75, ISSN 0001-0782
Wydawca: Association for Computing Machinary, Inc.
DOI: 10.1145/3737447

Book chapters (12)

Monitoring Hypernode Logic Over Infinite Domains

Autorzy: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Opublikowane w: Lecture Notes in Computer Science, Runtime Verification, 2025, Strona(/y) 417-437
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_23

Automating the Analysis of Quantitative Automata with QuAK

Autorzy: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Opublikowane w: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Strona(/y) 303-312
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90643-5_16

Quantitative Monitoring of Signal First-Order Logic

Autorzy: Marek Chalupa, Thomas A. Henzinger, N. Ege Saraç, Emily Yu
Opublikowane w: Lecture Notes in Computer Science, Formal Methods, 2026, Strona(/y) 214-233
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-032-26220-2_11

Formal Verification of Neural Certificates Done Dynamically

Autorzy: Thomas A. Henzinger, Konstantin Kueffner, Emily Yu
Opublikowane w: Lecture Notes in Computer Science, Runtime Verification, 2025, Strona(/y) 54-72
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_4

QuAK: Quantitative Automata Kit

Autorzy: Marek Chalupa, Thomas A. Henzinger, Nicolas Mazzocchi, N. Ege Saraç
Opublikowane w: Lecture Notes in Computer Science, Leveraging Applications of Formal Methods, Verification and Validation. Software Engineering Methodologies, 2024, Strona(/y) 3-20
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-75387-9_1

BUBAAK: Dynamic Cooperative Verification

Autorzy: Marek Chalupa, Cedric Richter
Opublikowane w: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2025, Strona(/y) 212-216
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-90660-2_14

Bubaak-SpLit: Split what you cannot verify (Competition contribution)

Autorzy: Marek Chalupa, Cedric Richter
Opublikowane w: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Strona(/y) 353-358
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_20

Alignment Monitoring

Autorzy: Thomas A. Henzinger, Konstantin Kueffner, Vasu Singh, I. Sun
Opublikowane w: Lecture Notes in Computer Science, Runtime Verification, 2025, Strona(/y) 140-159
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_9

Approximate Distributed Monitoring Under Partial Synchrony: Balancing Speed & Accuracy

Autorzy: Borzoo Bonakdarpour, Anik Momtaz, Dejan Ničković, N. Ege Saraç
Opublikowane w: Lecture Notes in Computer Science, Runtime Verification, 2024, Strona(/y) 282-301
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-74234-7_18

Monitoring Extended Hypernode Logic

Autorzy: Marek Chalupa, Thomas A. Henzinger, Ana Oliveira da Costa
Opublikowane w: Lecture Notes in Computer Science, Integrated Formal Methods, 2025, Strona(/y) 151-171
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-76554-4_9

Auction-Based Scheduling

Autorzy: Guy Avni, Kaushik Mallik, Suman Sadhukhan
Opublikowane w: Lecture Notes in Computer Science, Tools and Algorithms for the Construction and Analysis of Systems, 2024, Strona(/y) 153-172
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-57256-2_8

Algorithmic Fairness: A Runtime Perspective

Autorzy: Filip Cano, Thomas A. Henzinger, Konstantin Kueffner
Opublikowane w: Lecture Notes in Computer Science, Runtime Verification, 2025, Strona(/y) 1-21
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-032-05435-7_1

Monographic books (1)

Computer Aided Verification

Autorzy: Henzinger, T.A., Karimi, M., Kueffner, K., Mallik, K.
Opublikowane w: Lecture Notes in Computer Science, 2023
Wydawca: Springer Nature Switzerland
DOI: 10.1007/978-3-031-37709-9