Skip to main content
European Commission logo print header



Report: Systematic and coverage-driven testing of learning components

Report Systematic and coveragedriven testing of learning components ULIV

Report: Provable safe reinforcement learning

Report Provable safe reinforcement learning TUG

Formal specification for learning-enabled autonomous systems

Formal specification for learningenabled autonomous systems BIU

Report: AI-enabled systematic and intelligent testing of autonomous systems

Report AIenabled systematic and intelligent testing of autonomous systems BIU

Report: Early validation result WP4

Report Early validation result WP4 TUG

"Report on workshop #1 organisation"

Report on workshop 1 organisation UGA

Report: Understanding decision faithfulness of machine learning components

Report Understanding decision faithfulness of machine learning components DNDE

Report: Early validation result WP3

Report Early validation result WP3 FORTISS

Dissemination Action Plan including project corporate identity

Dissemination Action Plan including project corporate identity UGA

Project newsletter 1

Project newsletter 1 LUP


Online Shielding for Reinforcement Learning

Autoren: Bettina Könighofer; Julian Rudolf; Alexander Palmisano; Martin Tappler; Roderick Bloem
Veröffentlicht in: Innovations in Systems and Software Engineering, 2022, ISSN 1614-5046
Herausgeber: Springer Verlag
DOI: 10.48550/arxiv.2212.01861

Survey on mining signal temporal logic specifications

Autoren: Ezio Bartocci; Cristinel Mateis; Eleonora Nesterini; Dejan Nickovic
Veröffentlicht in: Information and Computation journal, Issue 08905401, 2022, ISSN 0890-5401
Herausgeber: Academic Press
DOI: 10.1016/j.ic.2022.104957

Embedding and Extraction of Knowledge in Tree Ensemble Classifiers

Autoren: Xingyu Zhao, Xiaowei Huang
Veröffentlicht in: Machine Learning journal, 2021, ISSN 1573-0565
Herausgeber: Springer
DOI: 10.1007/s10994-021-06068-6

Semantic Modeling and Analysis of Natural Language System Requirements

Autoren: Konstantinos Mokos, Theodoros Nestoridis, Panagiotis Katsaros, Nick Bassiliades
Veröffentlicht in: IEEE Access Journal, Issue 21693536, 2022, Page(s) 84094-84119, ISSN 2169-3536
Herausgeber: Institute of Electrical and Electronics Engineers Inc.
DOI: 10.1109/access.2022.3197281

Coverage-Guided Testing for Recurrent Neural Networks

Autoren: Wei Huang, Youcheng Sun, Xingyu Zhao, James Sharp, Wenjie Ruan, Jie Meng, Xiaowei Huang
Veröffentlicht in: IEEE Transactions on Reliability, 2021, Page(s) 1-16, ISSN 0018-9529
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/tr.2021.3080664

Reflections on Surrogate-Assisted Search-Based Testing: A Taxonomy and Two Replication Studies based on Industrial ADAS and Simulink Models

Autoren: Shiva Nejati, Lev Sorokin, Damir Safin, Federico Formica, Mohammad Mahdi Mahboob, Claudio Menghi
Veröffentlicht in: Information and Software Technology Journal, 2023, Page(s) 107286, ISSN 0950-5849
Herausgeber: Elsevier BV
DOI: 10.1016/j.infsof.2023.107286

Analyzing Intentional Behavior in Autonomous Agents Under Uncertainty

Autoren: Filip Cano Córdoba, Samuel Judson, Timos Antonopoulos, Katrine Bjorner, Nicholas Shoemaker, Scott Shapiro, Ruzica Piskac, Bettina Könighofer
Veröffentlicht in: Proceedings of the IJCAI 2023 - 32nd International Joint Conference on Artificial Intelligence, 2023, Page(s) 372--381, ISBN 978-1-956792-03-4
DOI: 10.24963/ijcai.2023/42

Attribute Repair for Threat Prevention

Autoren: Tarrach Thorsten; Ebrahimi Masoud; König Sandra; Schmittner Christoph; Bloem Roderick; Nickovic Dejan
Veröffentlicht in: SafeComp 2023 proceedings, 2023, ISBN 978-3-031-40922-6
Herausgeber: Springer
DOI: 10.1007/978-3-031-40923-3

The Unnecessity of Assuming Statistically Independent Tests in Bayesian Software Reliability Assessments

Autoren: Kizito Salako; Xingyu Zhao
Veröffentlicht in: IEEE Transactions on Software Engineering, Issue 6, 2023, Page(s) 2829 - 2838, ISSN 0098-5589
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.48550/arxiv.2208.00462

How does Weight Correlation Affect the Generalisation Ability of Deep Neural Networks

Autoren: Jin, Gaojie; Yi, Xinping; Zhang, Liang; Zhang, Lijun; Schewe, Sven; Huang, Xiaowei
Veröffentlicht in: 34th Conference on Neural Information Processing Systems (NeurIPS 2020), Issue 1, 2020
Herausgeber: Neural Information Processing Systems

Safe, Deterministic Trajectory Planning for Unstructured and Partially Occluded Environments

Autoren: Sebastian vom Dorff, Maximilian Kneissl, Martin Franzle
Veröffentlicht in: 2021 IEEE International Intelligent Transportation Systems Conference (ITSC), 2021, Page(s) 969-975, ISBN 978-1-7281-9142-3
Herausgeber: IEEE
DOI: 10.1109/itsc48978.2021.9565022

Continuous Safety Verification of Neural Networks

Autoren: Chih-Hong Cheng, Rongjie Yan
Veröffentlicht in: 2021 Design, Automation & Test in Europe Conference & Exhibition (DATE), 2021, Page(s) 1478-1483, ISBN 978-3-9819263-5-4
Herausgeber: IEEE
DOI: 10.23919/date51398.2021.9473994

Adversarial Robustness of Deep Learning: Theory, Algorithms, and Applications

Autoren: Wenjie Ruan; Xinping Yi; Xiaowei Huang
Veröffentlicht in: CIKM '21: The 30th ACM International Conference on Information and Knowledge Management, Issue 2021 Proceeding, 2021, ISBN 978-1-4503-8446-9
Herausgeber: ACM
DOI: 10.1145/3459637.3482029

Detecting Operational Adversarial Examples for Reliable Deep Learning

Autoren: Zhao, Xingyu; Huang, Wei; Schewe, Sven; Dong, Yi; Huang, Xiaowei; IEEE,
Herausgeber: IEEE
DOI: 10.1109/dsn-s52858.2021.00013

Runtime Verification for FMI-Based Co-simulation

Autoren: Anastasios Temperekidis, Nikolaos Kekatos, and Panagiotis Katsaros
Veröffentlicht in: Runtime Verification. RV 2022. Lecture Notes in Computer Science, vol 13498, 2022
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-17196-3_19

Enhancing Adversarial Training with Second-Order Statistics of Weights

Autoren: Gaojie Jin, Xinping Yi, Liang Zhang, Lijun Zhang, Sven Schewe, Xiaowei Huang
Veröffentlicht in: CVPR 2022 - 2022 Conference on Computer Vision and Pattern Recognition, 2022
Herausgeber: IEEE

Strategies for MDP Bisimilarity Equivalence and Inequivalence

Autoren: Stefan Kiefer, Qiyi Tang
Veröffentlicht in: Concur 2022 - 33RD INTERNATIONAL CONFERENCE ON CONCURRENCY THEORY, 2022, Page(s) 32:1--32:22, ISBN 978-3-95977-246-4
Herausgeber: Schloss Dagstuhl – Leibniz-Zentrum für Informatik
DOI: 10.4230/lipics.concur.2022.32

BayLIME: Bayesian Local Interpretable Model-Agnostic Explanations

Autoren: Xingyu Zhao, Xiaowei Huang, et. Al.
Veröffentlicht in: UAI2021 Proceedings of Machine Learning Research (PMLR), Issue Zhao, X.,Huang, W, Huang, X., Robu, V., and Flynn, D. (2021). BayLime: Bayesian local interpretable model-agnostic explanations. UAI2021., 2021
Herausgeber: AAAI press

Hidden 1-Counter Markov Models and How to Learn Them

Autoren: Mehmet Kurucan, Mete Ozbaltan, Sven Schewe, Dominik Wojtczak
Veröffentlicht in: IJCAI 2022 - 31st International Joint Conference on Artificial Intelligence, 2022, Page(s) 4857-4863
Herausgeber: International Joint Conferences on Artificial Intelligence Organization
DOI: 10.24963/ijcai.2022/673

Reliable Multimodal Trajectory Prediction via Error Aligned Uncertainty Optimization

Autoren: Neslihan Kose Cihangir, Ranganath Krishnan, Akash Dhamasia, Omesh Tickoo, Michael Paulitsch
Veröffentlicht in: SAIAD 2022 - 4th Workshop Safe Artificial Intelligence for Automated Driving, 2023
Herausgeber: Springer
DOI: 10.48550/arxiv.2212.04812

Real-time Nonlinear MPC Strategy with Full Vehicle Validation for Autonomous Driving

Autoren: Jean Pierre Allamaa, Petr Listov, Herman Van der Auweraer, Colin Jones, Tong Duy Son
Veröffentlicht in: American Control Conference (ACC) 2022, 2021
Herausgeber: IEEE

Safe Imitation Learning on Real-Life Highway Data for Human-like Autonomous Driving

Autoren: Flavia Sofia Acerbo, Mohsen Alirezaei, Herman Van der Auweraer, Tong Duy Son.
Veröffentlicht in: 24th IEEE International Conference on Intelligent Transportation - ITSC2021, 2021
Herausgeber: IEEE

Safety Metrics for Semantic Segmentation in Autonomous Driving

Autoren: Chih-Hong Cheng, Alois Knoll, Hsuan-Cheng Liao
Veröffentlicht in: 2021 IEEE International Conference on Artificial Intelligence Testing (AITest), 2021, Page(s) 57-64, ISBN 978-1-6654-3481-2
Herausgeber: IEEE
DOI: 10.1109/aitest52744.2021.00021

On Neural Network Equivalence Checking using SMT Solvers

Autoren: Charis Eleftheriadis, Nikolaos Kekatos, Panagiotis Katsaros, and Stavros Tripakis
Veröffentlicht in: Formal Modeling and Analysis of Timed Systems. FORMATS 2022. Lecture Notes in Computer Science, 2022
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-031-15839-1_14

TEMPEST - Synthesis Tool for Reactive Systems and Shields in Probabilistic Environments

Autoren: Stefan Pranger; Bettina Könighofer; Lukas Posch; Roderick Bloem
Veröffentlicht in: ATVA 2021, Issue 1, 2021, ISBN 978-3-030-88884-8
Herausgeber: Springer
DOI: 10.1007/978-3-030-88885-5_15

Formal Specification for Learning-Enabled Autonomous Systems

Autoren: Saddek Bensalem, Chih-Hong Cheng, Xiaowei Huang, Panagiotis Katsaros, Adam Molin, Dejan Nickovic, Doron Peled
Veröffentlicht in: Software Verification and Formal Methods for ML-Enabled Autonomous Systems, Issue [2022], 2022, Page(s) p.131-143, ISBN 978-3-031-21221-5
Herausgeber: Springer
DOI: 10.1007/978-3-031-21222-2_8

Monitoring Object Detection Abnormalities via Data-Label and Post-Algorithm Abstractions

Autoren: Chen, Yuhang; Cheng, Chih-Hong; Yan, Jun; Yan, Rongjie
Veröffentlicht in: IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2021), 2021
Herausgeber: IEEE

Provably-Robust Runtime Monitoring of Neuron Activation Patterns

Autoren: Chih-Hong Cheng
Veröffentlicht in: 2021 Design, Automation & Test in Europe Conference & Exhibition (DATE), 2021, Page(s) 1310-1313, ISBN 978-3-9819263-5-4
Herausgeber: IEEE
DOI: 10.23919/date51398.2021.9473957

Safety and reliability of deep learning - (brief overview)

Autoren: Xiaowei Huang
Veröffentlicht in: Proceedings of the 1st International Workshop on Verification of Autonomous & Robotic Systems, 2021, Page(s) 1-2, ISBN 9781450384445
Herausgeber: ACM
DOI: 10.1145/3459086.3459636

Model-Free Reinforcement Learning for Lexicographic ω-Regular Objectives

Autoren: Ernst Moritz Hahn, Mateo Perez, Sven Schewe, Fabio Somenzi, Ashutosh Trivedi, and Dominik Wojtczak
Veröffentlicht in: 24th International Symposium, FM 2021, 2021, ISBN 978-3-030-90870-6
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-030-90870-6_8

Testing Autonomous Systems with Believed Equivalence Refinement

Autoren: Chih-Hong Cheng, Rongjie Yan
Veröffentlicht in: 2021 IEEE International Conference on Artificial Intelligence Testing (AITest), 2021, Page(s) 49-56, ISBN 978-1-6654-3481-2
Herausgeber: IEEE
DOI: 10.1109/aitest52744.2021.00020

Assessing the reliability of deep learning classifiers through robustness evaluation and operational profiles

Autoren: Zhao, X., Huang, W., Banks, A., Cox, V., Flynn, D., Schewe, S., and Huang, X.
Veröffentlicht in: AISafety’21 Workshop at IJCAI’21, 2021
Herausgeber: CEUR

Information-flow Interfaces

Autoren: Ezio Bartocci, Thomas Ferrère, Thomas A. Henzinger, Dejan Nickovic & Ana Oliveira da Costa
Veröffentlicht in: Fundamental Approaches to Software Engineering. FASE 2022. Lecture Notes in Computer Science, vol 13241., 2022, ISBN 978-3-030-99428-0
Herausgeber: Springer, Cham
DOI: 10.1007/978-3-030-99429-7_1

Search-Based Testing of Reinforcement Learning

Autoren: Martin Tappler, Filip Cano Cordoba, Bernhard Aichernig, Bettina Könighofer
Veröffentlicht in: Proceedings of the Thirty-First International Joint Conference on Artificial Intelligence (IJCAI 2022) Main Track., Issue Thirty-First Conference, 23-29 July 2022, 2022, Page(s) 503-510, ISBN 978-1-956792-00-3
DOI: 10.24963/ijcai.2022/72

A Hierarchical HAZOP-Like Safety Analysis for Learning-Enable Systems

Autoren: Yi Qi, Philippa Ryan, Wei Huang, Xingyu Zhao and Xiaowei Huang
Veröffentlicht in: AISafety 2022 workshop at IJCAI2022, 2022
Herausgeber: CEUR Workshop Proceedings
DOI: 10.48550/arxiv.2206.10216

Safety Shielding under Delayed Observation

Autoren: Filip Cano, Alexander Palmisano, Martin Fraenzle, Roderick Bloem and Bettina Koenighofer
Veröffentlicht in: ICAPS 2023 - 33rd International Conference on Automated Planning and Scheduling, 2023, ISSN 2334-0843
Herausgeber: AAAI Press.
DOI: 10.1609/icaps.v33i1.27181

Towards a Digital Twin Architecture with Formal Analysis Capabilities for Learning-Enabled Autonomous Systems

Autoren: Anastasios Temperekidis, Nikolaos Kekatos, Panagiotis Katsaros, Weicheng He, Saddek Bensalem, Hisham AbdElSabour, Mohamed AbdElsalam, Ashraf Salem
Veröffentlicht in: MESAS 2022 - 9th International Conference on Modelling and Simulation for Autonomous Systems, Issue 2022 Proceedings, 2023, Page(s) 163-181
Herausgeber: Springer Cham
DOI: 10.1007/978-3-031-31268-7_10

Hardware Faults that Matter: Understanding and Estimating the Safety Impact of Hardware Faults on Object Detection DNNs

Autoren: Syed Qutub, Florian Geissler, Yang Peng, Ralf Gräfe, Michael Paulitsch, Gereon Hinz, and Alois Knoll
Veröffentlicht in: Safecomp 2022, Issue 41st, 2022, Page(s) 298-318, ISBN 978-3-031-14835-4
Herausgeber: Springer
DOI: 10.1007/978-3-031-14835-4_20

DeepSTL - From English Requirements to Signal Temporal Logic

Autoren: Jie He, Ezio Bartocci, Dejan Nickovic and Radu Grosu
Veröffentlicht in: ICSE '22: Proceedings of the 44th International Conference on Software Engineering, 2022, Page(s) 610–622
Herausgeber: ACM Digital Library
DOI: 10.1145/3510003.3510171

Mining Shape Expressions with ShapeIt

Autoren: Ezio Bartocci, Jyotirmoy Deshmukh, Cristinel Mateis, Eleonora Nesterini, Dejan Nickovic, and Xin Qin
Veröffentlicht in: 19th International Conference on Software Engineering and Formal Methods (SEFM'21), 2021
Herausgeber: Springer
DOI: 10.5281/zenodo.5597000

Sampling of Shape Expressions with ShapEx

Autoren: Nicolas Basset; Thao Dang; Felix Gigler; Cristinel Mateis; Dejan Nickovic
Veröffentlicht in: ACM Digital Library, 2021
Herausgeber: ACM
DOI: 10.5281/zenodo.5550069

EPMC Gets Knowledge in Multi-Agent Systems

Autoren: Chen Fu, Ernst Moritz Hahn, Yong Li, Sven Schewe, Meng Sun, Andrea Turrini, and Lijun Zhang
Veröffentlicht in: VMCAI 2022 - 23rd International Conference on Verification, Model Checking, and Abstract Interpretation, Issue volume 13182, 2022, Page(s) pages: 93-107, ISBN 978-3-030-94583-1
Herausgeber: Springer
DOI: 10.1007/978-3-030-94583-1_5

Automata Learning meets Shielding

Autoren: Martin Tappler, Stefan Pranger, Bettina K¨onighofer, Edi Muˇskardin, Roderick Bloem, and Kim Larsen
Veröffentlicht in: ISoLA 2022 - 11th International Symposium On Leveraging Applications of Formal Methods, Verification and Validation Principles, 2022, Page(s) pp 335–359
Herausgeber: Springer
DOI: 10.48550/arxiv.2212.01838

Robustness Verification for Attention Networks using Mixed Integer Programming

Autoren: Hsuan-Cheng Liao, Chih-Hong Cheng, Maximilian Kneissl, Alois Knoll
Veröffentlicht in: 2022
Herausgeber: Arxiv
DOI: 10.48550/arxiv.2202.03932

Virtual Reality Assisted Human Perception in ADAS Development: a Munich 3D Model Study

Autoren: Felix Bognar, Oster Markus, Herman Van der Auweraer, Tong Duy Son
Veröffentlicht in: 2022
Herausgeber: Arxiv
DOI: 10.48550/arxiv.2208.07208

Towards Trustworthy Camera-Based Sensing and Perception Systems

Autoren: Christian Berghoff, Jona Böddinghaus, Vasilios Danos, Gabrielle Davelaar, Thomas Doms, Heiko Ehrich, Alexandru Forrai, Radu Grosu, Ronan Hamon, Henrik Junklewitz, Matthias Neu, Simon Romanski, Wojciech Samek, Dirk Schlesinger, Jan-Eve Stavesand, Sebastian Steinbach, Arndt von Twickel, Robert Walter, Johannes Weissenböck, Markus Wenzel, Thomas Wiegand
Veröffentlicht in: Whitepaper | May 2022. Towards Auditable AI Systems. From Principles to Practice. Based on the 2nd international Workshop “Towards Auditable AI Systems”, October 26th 2021, Fraunhofer Forum Digitale Technologien, Berlin, organized by the Federal Office for Information Security Germany, the TÜV-Verband and the Fraunhofer HHI, 2022
Herausgeber: Bundesamt für Sicherheit in der Informationstechnik, Fraunhofer-Institut für Nachrichtentechnik, TÜV-Verband e. V.

Dependability Analysis of Deep Reinforcement Learning based Robotics and Autonomous Systems

Autoren: Dong, Yi; Zhao, Xingyu; Huang, Xiaowei
Veröffentlicht in: Issue 2, 2021
Herausgeber: ArXiv
DOI: 10.48550/arxiv.2109.06523

Deciding What is Good-for-MDPs

Autoren: Sven Schewe, Qiyi Tang and Tansholpan Zhanabekova
Veröffentlicht in: 2022
Herausgeber: Arxiv
DOI: 10.48550/arxiv.2202.07629

Suche nach OpenAIRE-Daten ...

Bei der Suche nach OpenAIRE-Daten ist ein Fehler aufgetreten

Es liegen keine Ergebnisse vor