Self-assessment Oracles for Anticipatory Testing

Projektinformationen

PRECRIME

ID Finanzhilfevereinbarung: 787703

DOI 10.3030/787703

EK-Unterschriftsdatum 13 Juli 2018

Startdatum 1 Januar 2019

Enddatum 30 Juni 2024

Finanziert unter

• EXCELLENT SCIENCE - European Research Council (ERC)

Gesamtkosten € 2 313 250,00

EU-Beitrag € 2 313 250,00

Koordiniert durch

UNIVERSITA DELLA SVIZZERA ITALIANA
Switzerland

Leistungen

Open Research Data Pilot (1)

Data Management Plan

Open Data associated with the empirical evaluation.

Veröffentlichungen

Conference proceedings (21)

A Framework for In-Vivo Testing of Mobile Applications

Autoren: Mariano Ceccato, Davide Corradini, Luca Gazzola, Fitsum Meshesha Kifetew, Leonardo Mariani, Matteo Orru, Paolo Tonella
Veröffentlicht in: 2020 IEEE 13th International Conference on Software Testing, Validation and Verification (ICST), 2020, Seite(n) 286-296, ISBN 978-1-7281-5778-8
Herausgeber: IEEE
DOI: 10.1109/icst46399.2020.00037

An Empirical Evaluation of Mutation Operators for Deep Learning Systems

Autoren: Gunel Jahangirova, Paolo Tonella
Veröffentlicht in: 2020 IEEE 13th International Conference on Software Testing, Validation and Verification (ICST), 2020, Seite(n) 74-84, ISBN 978-1-7281-5778-8
Herausgeber: IEEE
DOI: 10.1109/icst46399.2020.00018

Repairing DNN Architecture: Are We There Yet?

Autoren: Jinhan Kim, Nargiz Humbatova, Gunel Jahangirova, Paolo Tonella, Shin Yoo
Veröffentlicht in: Proceedings of the IEEE Conference on Software Testing, Verification and Validation, 2023, Seite(n) pp. 234-245
Herausgeber: IEEE
DOI: 10.1109/icst57152.2023.00030

Model-based exploration of the frontier of behaviours for deep learning system testing

Autoren: Vincenzo Riccio, Paolo Tonella
Veröffentlicht in: Proceedings of the 28th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering, 2020, Seite(n) 876-888, ISBN 9781450370431
Herausgeber: ACM
DOI: 10.1145/3368089.3409730

Evolutionary improvement of assertion oracles

Autoren: Valerio Terragni, Gunel Jahangirova, Paolo Tonella, Mauro Pezzè
Veröffentlicht in: Proceedings of the 28th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering, 2020, Seite(n) 1178-1189, ISBN 9781450370431
Herausgeber: ACM
DOI: 10.1145/3368089.3409758

Quality Metrics and Oracles for Autonomous Vehicles Testing

Autoren: Gunel Jahangirova, Andrea Stocco, Paolo Tonella
Veröffentlicht in: 2021 14th IEEE Conference on Software Testing, Verification and Validation (ICST), 2021, Seite(n) 194-204, ISBN 978-1-7281-6836-4
Herausgeber: IEEE
DOI: 10.1109/icst49551.2021.00030

DeepHyperion: exploring the feature space of deep learning-based systems through illumination search

Autoren: Tahereh Zohdinasab, Vincenzo Riccio, Alessio Gambi, Paolo Tonella
Veröffentlicht in: Proceedings of the 30th ACM SIGSOFT International Symposium on Software Testing and Analysis, 2021, Seite(n) 79-90, ISBN 9781450384599
Herausgeber: ACM
DOI: 10.1145/3460319.3464811

A Review and Refinement of Surprise Adequacy

Autoren: Michael Weiss, Rwiddhi Chakraborty, Paolo Tonella
Veröffentlicht in: 2021 IEEE/ACM Third International Workshop on Deep Learning for Testing and Testing for Deep Learning (DeepTest), 2021, Seite(n) 17-24, ISBN 978-1-6654-4565-8
Herausgeber: IEEE
DOI: 10.1109/deeptest52559.2021.00009

Run Java Applications and Test Them In-Vivo Meantime

Autoren: Antonia Bertolino, Guglielmo De Angelis, Breno Miranda, Paolo Tonella
Veröffentlicht in: 2020 IEEE 13th International Conference on Software Testing, Validation and Verification (ICST), 2020, Seite(n) 454-459, ISBN 978-1-7281-5778-8
Herausgeber: IEEE
DOI: 10.1109/icst46399.2020.00061

Fail-Safe Execution of Deep Learning based Systems through Uncertainty Monitoring

Autoren: Michael Weiss, Paolo Tonella
Veröffentlicht in: 2021 14th IEEE Conference on Software Testing, Verification and Validation (ICST), 2021, Seite(n) 24-35, ISBN 978-1-7281-6836-4
Herausgeber: IEEE
DOI: 10.1109/icst49551.2021.00015

Uncertainty-Wizard: Fast and User-Friendly Neural Network Uncertainty Quantification

Autoren: Michael Weiss, Paolo Tonella
Veröffentlicht in: 2021 14th IEEE Conference on Software Testing, Verification and Validation (ICST), 2021, Seite(n) 436-441, ISBN 978-1-7281-6836-4
Herausgeber: IEEE
DOI: 10.1109/icst49551.2021.00056

Simple Techniques Work Surprisingly Well for Neural Network Test Prioritization and Active Learning (Replicability Study)

Autoren: Michael Weiss, Paolo Tonella
Veröffentlicht in: Proceedings of the 31st ACM SIGSOFT International Symposium on Software Testing and Analysis, 2022, Seite(n) pp. 139-150
Herausgeber: ACM
DOI: 10.1145/3533767.3534375

DeepCrime: mutation testing of deep learning systems based on real faults

Autoren: Nargiz Humbatova, Gunel Jahangirova, Paolo Tonella
Veröffentlicht in: Proceedings of the 30th ACM SIGSOFT International Symposium on Software Testing and Analysis, 2021, Seite(n) 67-78, ISBN 9781450384599
Herausgeber: ACM
DOI: 10.1145/3460319.3464825

DeepMetis: Augmenting a Deep Learning Test Set to Increase its Mutation Score

Autoren: Vincenzo Riccio, Nargiz Humbatova, Gunel Jahangirova, Paolo Tonella
Veröffentlicht in: 2021 36th IEEE/ACM International Conference on Automated Software Engineering (ASE), 2021, Seite(n) 355-367
Herausgeber: IEEE Computer Society
DOI: 10.1109/ase51524.2021.9678764

Misbehaviour prediction for autonomous driving systems

Autoren: Andrea Stocco, Michael Weiss, Marco Calzana, Paolo Tonella
Veröffentlicht in: Proceedings of the ACM/IEEE 42nd International Conference on Software Engineering, 2020, Seite(n) 359-371, ISBN 9781450371216
Herausgeber: ACM
DOI: 10.1145/3377811.3380353

IFRIT: Focused Testing through Deep Reinforcement Learning

Autoren: Andrea Romdhana, Mariano Ceccato, Alessio Merlo, Paolo Tonella
Veröffentlicht in: 2022 IEEE Conference on Software Testing, Verification and Validation (ICST), 2022
Herausgeber: IEEE
DOI: 10.1109/icst53961.2022.00013

Toward In-Vivo Testing of Mobile Applications

Autoren: Mariano Ceccato, Luca Gazzola, Fitsum Meshesha Kifetew, Leonardo Mariani, Matteo Orru, Paolo Tonella
Veröffentlicht in: 2019 IEEE International Symposium on Software Reliability Engineering Workshops (ISSREW), 2019, Seite(n) 137-143, ISBN 978-1-7281-5138-0
Herausgeber: IEEE
DOI: 10.1109/issrew.2019.00063

ThirdEye: Attention Maps for Safe Autonomous Driving Systems

Autoren: Andrea Stocco, Paulo J. Nunes, Marcelo d'Amorim, Paolo Tonella
Veröffentlicht in: Proceedings of the 37th IEEE/ACM International Conference on Automated Software Engineering (ASE), 2022
Herausgeber: ACM
DOI: 10.1145/3551349.3556968

Taxonomy of real faults in deep learning systems

Autoren: Nargiz Humbatova, Gunel Jahangirova, Gabriele Bavota, Vincenzo Riccio, Andrea Stocco, Paolo Tonella
Veröffentlicht in: Proceedings of the ACM/IEEE 42nd International Conference on Software Engineering, 2020, Seite(n) 1110-1121, ISBN 9781450371216
Herausgeber: ACM
DOI: 10.1145/3377811.3380395

Simulation-based Test Case Generation for Unmanned Aerial Vehicles in the Neighborhood of Real Flights

Autoren: Sajad Khatiri, Sebastiano Panichella, Paolo Tonella
Veröffentlicht in: Proceedings of the IEEE Conference on Software Testing, Verification and Validation, 2023, Seite(n) pp. 281-292
Herausgeber: IEEE
DOI: 10.1109/icst57152.2023.00034

GAssert: A Fully Automated Tool to Improve Assertion Oracles

Autoren: Valerio Terragni, Gunel Jahangirova, Paolo Tonella, Mauro Pezze
Veröffentlicht in: 2021 IEEE/ACM 43rd International Conference on Software Engineering: Companion Proceedings (ICSE-Companion), 2021, Seite(n) 85-88, ISBN 978-1-6654-1219-3
Herausgeber: IEEE
DOI: 10.1109/icse-companion52605.2021.00042

Peer reviewed articles (11)

Confidence-driven Weighted Retraining for Predicting Safety-Critical Failures in Autonomous Driving Systems

Autoren: Andrea Stocco, Paolo Tonella
Veröffentlicht in: Journal of Software: Evolution and Process, 2021, ISSN 2047-7481
Herausgeber: John Wiley and Sons Ltd
DOI: 10.1002/smr.2386

Model vs System Level Testing of Autonomous Driving Systems: A Replication and Extension Study

Autoren: Andrea Stocco, Brian Pulfer, Paolo Tonella
Veröffentlicht in: Empirical Software Engineering, Ausgabe vol. 28, n. 3, 2023, ISSN 1382-3256
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10664-023-10306-x

Efficient and Effective Feature Space Exploration for Testing Deep Learning Systems

Autoren: Tahereh Zohdinasab, Vincenzo Riccio, Alessio Gambi, Paolo Tonella
Veröffentlicht in: ACM Transactions on Software Engineering and Methodology, Ausgabe vol. 32, n. 2, 2023, Seite(n) 1-38, ISSN 1049-331X
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3544792

Assessing the security of inter-app communications in android through reinforcement learning

Autoren: Andrea Romdhana, Alessio Merlo, Mariano Ceccato, Paolo Tonella
Veröffentlicht in: Computer Security, Ausgabe vol. 131, 2023, ISSN 0167-4048
Herausgeber: Pergamon Press Ltd.
DOI: 10.1016/j.cose.2023.103311

Uncertainty quantification for deep neural networks: An empirical comparison and usage guidelines

Autoren: Michael Weiss, Paolo Tonella
Veröffentlicht in: Journal of Software: Testing, Verification and Reliability, 2023, Seite(n) 1-23, ISSN 1099-1689
Herausgeber: John Wiley & Sons
DOI: 10.1002/stvr.1840

Testing the Plasticity of Reinforcement Learning-based Systems

Autoren: Matteo Biagiola, Paolo Tonella
Veröffentlicht in: ACM Transactions on Software Engineering and Methodology, Ausgabe vol. 31, n. 4, 2022, Seite(n) 1-46, ISSN 1049-331X
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3511701

Testing machine learning based systems: a systematic mapping

Autoren: Vincenzo Riccio, Gunel Jahangirova, Andrea Stocco, Nargiz Humbatova, Michael Weiss, Paolo Tonella
Veröffentlicht in: Empirical Software Engineering, Ausgabe 25/6, 2020, Seite(n) 5193-5254, ISSN 1382-3256
Herausgeber: Kluwer Academic Publishers
DOI: 10.1007/s10664-020-09881-0

An Empirical Validation of Oracle Improvement

Autoren: Gunel Jahangirova, David Clark, Mark Harman, Paolo Tonella
Veröffentlicht in: IEEE Transactions on Software Engineering, 2019, Seite(n) 1-1, ISSN 0098-5589
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/tse.2019.2934409

A Survey of Field-based Testing Techniques

Autoren: Antonia Bertolino, Pietro Braione, Guglielmo De Angelis, Luca Gazzola, Fitsum Kifetew, Leonardo Mariani, Matteo Orrù, Mauro Pezzè, Roberto Pietrantuono, Stefano Russo, Paolo Tonella
Veröffentlicht in: ACM Computing Surveys, Ausgabe 54/5, 2021, Seite(n) 1-39, ISSN 0360-0300
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3447240

Mind the Gap! A Study on the Transferability of Virtual Versus Physical-World Testing of Autonomous Driving Systems

Autoren: Andrea Stocco, Brian Pulfer, Paolo Tonella
Veröffentlicht in: IEEE Transactions on Software Engineering, Ausgabe vol. 49, n. 4, 2023, Seite(n) pp. 1928-1940, ISSN 0098-5589
Herausgeber: Institute of Electrical and Electronics Engineers
DOI: 10.1109/tse.2022.3202311

Deep Reinforcement Learning for Black-Box Testing of Android Apps

Autoren: Andrea Romdhana, Alessio Merlo, Mariano Ceccato, Paolo Tonella
Veröffentlicht in: ACM Transactions on Software Engineering and Methodology, 2022, ISSN 1049-331X
Herausgeber: Association for Computing Machinary, Inc.
DOI: 10.1145/3502868