Verifiably Safe and Correct Deep Neural Networks

Projektinformationen

VeriDeL

ID Finanzhilfevereinbarung: 101112713

DOI

10.3030/101112713

EK-Unterschriftsdatum 25 Oktober 2023

Startdatum 1 November 2023

Enddatum 31 Oktober 2028

Finanziert unter

• European Research Council (ERC)

Gesamtkosten

€ 1 500 000,00

EU-Beitrag

€ 1 500 000,00

Koordiniert durch

THE HEBREW UNIVERSITY OF JERUSALEM
Israel

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Veröffentlichungen

Conference proceedings (14)

What makes an Ensemble (Un) Interpretable?

Autoren: S. Bassan, G. Amir, M. Zehavi and G. Katz
Veröffentlicht in: Proc. 42nd Int. Conf. on Machine Learning (ICML), 2025
Herausgeber: ICML

Analyzing Adversarial Inputs in Deep Reinforcement Learning

Autoren: D. Corsi, G. Amir, G. Katz and A. Farinelli
Veröffentlicht in: Proc. 3rd Int. Conf. on Bridging the Gap Between AI and Reality (AISoLA), 2025
Herausgeber: AISoLA

Verification-Guided Shielding for Deep Reinforcement Learning

Autoren: D. Corsi, G. Amir, A. Rodriguez, C. Sanchez, G. Katz and R. Fox
Veröffentlicht in: Proc. 1st Reinforcement Learning Conf. (RLC), 2024
Herausgeber: RLC

A Certified Proof Checker for Deep Neural Network Verification in Imandra

Autoren: R. Desmartin, O. Isac, G. Passmore, E. Komendantskaya, K. Stark and G. Katz
Veröffentlicht in: Proc. 16th Int. Conf. on Interactive Theorem Proving (ITP), 2025
Herausgeber: ITP

Exploring and Evaluating Interplays of BPpy with Deep Reinforcement Learning and Formal Methods

Autoren: T. Yaacov, G. Weiss, A. Ashrov, G. Katz and H. Zisser
Veröffentlicht in: Proc. 20th Int. Conf. on Evaluation of Novel Approaches to Software Engineering (ENASE), 2025
Herausgeber: ENASE

Abstraction-Based Proof Production in Formal Verification of Neural Networks

Autoren: Y. Elboher, O. Isac, G. Katz, T. Ladner and H.Wu
Veröffentlicht in: Proc. 8th Int. Symposium on AI Verification (SAIV), 2025
Herausgeber: SAIV

On the Computational Tractability of the (Many) Shapley Values

Autoren: R. Marzouk, S. Bassan, G. Katz and C. de la Higuera
Veröffentlicht in: Proc. 28th Int. Conf. on Artificial Intelligence and Statistics (AISTATS), 2025
Herausgeber: AISTATS

Local vs. Global Interpretability: A Computational Complexity Perspective

Autoren: S. Bassan, G. Amir and G. Katz
Veröffentlicht in: Proc. 41st Int. Conf. on Machine Learning (ICML), 2024
Herausgeber: ICML

On Augmenting Scenario-Based Modeling with Generative AI

Autoren: D. Harel, G. Katz, A. Marron and S. Szekely
Veröffentlicht in: Proc. 12th Int. Conf. on Model-Driven Engineering and Software Development (MODELSWARD), 2024
Herausgeber: Modelsward

Hard to Explain: On the Computational Hardness of In-Distribution Model Interpretation

Autoren: G. Amir, S. Bassan, and G. Katz
Veröffentlicht in: Proc. 27th European Conf. on Artificial Intelligence (ECAI), 2024
Herausgeber: ECAI

Marabou 2.0: A Versatile Formal Analyzer of Neural Networks

Autoren: H. Wu, O. Isac, A. Zeljic, T. Tagomori, M. Daggitt, W. Kokke, I. Refaeli, G. Amir, K. Julian, S. Bassan, P. Huang, O. Lahav, M. Wu, M. Zhang, E. Komendantskaya, G. Katz and C. Barrett
Veröffentlicht in: Proc. 36th Int. Conf. on Computer Aided Verification (CAV), pp. 249-264, 2024
Herausgeber: CAV

Neural Network Verification is a Programming Language Challenge

Autoren: L. Cordeiro, M. Daggitt, J. Girard-Satabin, O. Isac, T. Johnson, G. Katz, E. Komendantskaya, A. Lemesle, E. Manino, A. Sinkarovs and H. Wu
Veröffentlicht in: Proc. 34th European Symposium on Programming (ESOP), 2025
Herausgeber: ESOP

Explaining, Fast and Slow: Abstraction and Refinement of Provable Explanations

Autoren: S. Bassan, Y. Elboher, T. Ladner, M. Althoff and G. Katz
Veröffentlicht in: Proc. 42nd Int. Conf. on Machine Learning (ICML), 2025
Herausgeber: ICML

DEM: A Method for Certifying Deep Neural Network Classifier Outputs in Aerospace

Autoren: G. Katz, N. Levy, I. Refaeli and R. Yerushalmi
Veröffentlicht in: Proc. 43rd Digital Avionics Systems Conf. (DASC), 2024
Herausgeber: DASC