Verifiably Safe and Correct Deep Neural Networks

Informations projet

VeriDeL

N° de convention de subvention: 101112713

DOI

10.3030/101112713

Date de signature de la CE 25 Octobre 2023

Date de début 1 Novembre 2023

Date de fin 31 Octobre 2028

Financé au titre de

• European Research Council (ERC)

Coût total

€ 1 500 000,00

Contribution de l’UE

€ 1 500 000,00

Coordonné par

THE HEBREW UNIVERSITY OF JERUSALEM
Israel

CORDIS fournit des liens vers les livrables publics et les publications des projets HORIZON.

Les liens vers les livrables et les publications des projets du 7e PC, ainsi que les liens vers certains types de résultats spécifiques tels que les jeux de données et les logiciels, sont récupérés dynamiquement sur OpenAIRE .

Publications

Conference proceedings (14)

What makes an Ensemble (Un) Interpretable?

Auteurs: S. Bassan, G. Amir, M. Zehavi and G. Katz
Publié dans: Proc. 42nd Int. Conf. on Machine Learning (ICML), 2025
Éditeur: ICML

Analyzing Adversarial Inputs in Deep Reinforcement Learning

Auteurs: D. Corsi, G. Amir, G. Katz and A. Farinelli
Publié dans: Proc. 3rd Int. Conf. on Bridging the Gap Between AI and Reality (AISoLA), 2025
Éditeur: AISoLA

Verification-Guided Shielding for Deep Reinforcement Learning

Auteurs: D. Corsi, G. Amir, A. Rodriguez, C. Sanchez, G. Katz and R. Fox
Publié dans: Proc. 1st Reinforcement Learning Conf. (RLC), 2024
Éditeur: RLC

A Certified Proof Checker for Deep Neural Network Verification in Imandra

Auteurs: R. Desmartin, O. Isac, G. Passmore, E. Komendantskaya, K. Stark and G. Katz
Publié dans: Proc. 16th Int. Conf. on Interactive Theorem Proving (ITP), 2025
Éditeur: ITP

Exploring and Evaluating Interplays of BPpy with Deep Reinforcement Learning and Formal Methods

Auteurs: T. Yaacov, G. Weiss, A. Ashrov, G. Katz and H. Zisser
Publié dans: Proc. 20th Int. Conf. on Evaluation of Novel Approaches to Software Engineering (ENASE), 2025
Éditeur: ENASE

Abstraction-Based Proof Production in Formal Verification of Neural Networks

Auteurs: Y. Elboher, O. Isac, G. Katz, T. Ladner and H.Wu
Publié dans: Proc. 8th Int. Symposium on AI Verification (SAIV), 2025
Éditeur: SAIV

On the Computational Tractability of the (Many) Shapley Values

Auteurs: R. Marzouk, S. Bassan, G. Katz and C. de la Higuera
Publié dans: Proc. 28th Int. Conf. on Artificial Intelligence and Statistics (AISTATS), 2025
Éditeur: AISTATS

Local vs. Global Interpretability: A Computational Complexity Perspective

Auteurs: S. Bassan, G. Amir and G. Katz
Publié dans: Proc. 41st Int. Conf. on Machine Learning (ICML), 2024
Éditeur: ICML

On Augmenting Scenario-Based Modeling with Generative AI

Auteurs: D. Harel, G. Katz, A. Marron and S. Szekely
Publié dans: Proc. 12th Int. Conf. on Model-Driven Engineering and Software Development (MODELSWARD), 2024
Éditeur: Modelsward

Hard to Explain: On the Computational Hardness of In-Distribution Model Interpretation

Auteurs: G. Amir, S. Bassan, and G. Katz
Publié dans: Proc. 27th European Conf. on Artificial Intelligence (ECAI), 2024
Éditeur: ECAI

Marabou 2.0: A Versatile Formal Analyzer of Neural Networks

Auteurs: H. Wu, O. Isac, A. Zeljic, T. Tagomori, M. Daggitt, W. Kokke, I. Refaeli, G. Amir, K. Julian, S. Bassan, P. Huang, O. Lahav, M. Wu, M. Zhang, E. Komendantskaya, G. Katz and C. Barrett
Publié dans: Proc. 36th Int. Conf. on Computer Aided Verification (CAV), pp. 249-264, 2024
Éditeur: CAV

Neural Network Verification is a Programming Language Challenge

Auteurs: L. Cordeiro, M. Daggitt, J. Girard-Satabin, O. Isac, T. Johnson, G. Katz, E. Komendantskaya, A. Lemesle, E. Manino, A. Sinkarovs and H. Wu
Publié dans: Proc. 34th European Symposium on Programming (ESOP), 2025
Éditeur: ESOP

Explaining, Fast and Slow: Abstraction and Refinement of Provable Explanations

Auteurs: S. Bassan, Y. Elboher, T. Ladner, M. Althoff and G. Katz
Publié dans: Proc. 42nd Int. Conf. on Machine Learning (ICML), 2025
Éditeur: ICML

DEM: A Method for Certifying Deep Neural Network Classifier Outputs in Aerospace

Auteurs: G. Katz, N. Levy, I. Refaeli and R. Yerushalmi
Publié dans: Proc. 43rd Digital Avionics Systems Conf. (DASC), 2024
Éditeur: DASC