Description du projet
Faire progresser la sécurité et l’efficacité de l’IA
La prolifération des solutions d’intelligence artificielle (IA) et l’essor des innovations et technologies associées ont nécessité la mise en place de réglementations, de technologies et de méthodologies pour garantir leur efficacité et leur sécurité. En outre, ces solutions peuvent réduire la durée des essais et permettre de raccourcir les cycles de développement jusqu’à la mise sur le marché des nouvelles technologies de l’IA. Avec le soutien du programme Actions Marie Skłodowska-Curie, le projet PFV-4-PTAI vise à créer un cadre essentiel pour tester et évaluer de manière adéquate les systèmes d’apprentissage automatique de l’IA. Pour atteindre cet objectif, il utilise une approche d’intégration de modèles pondérés, facilitant l’utilisation d’outils de vérification formelle probabiliste dans un cadre probabiliste.
Objectif
This project is concerned with the formal verification of modern Artificial Intelligence (AI) systems with Machine Learning (ML) components. Certifying that an AI satisfies certain requirements, such as fairness or safety standards, is pivotal for the regulation and use of this technology in many domains, especially those with high socio-economical stakes. Techniques that can provide formal guarantees on modern AI will have broad impacts on multiple areas described in the Horizon Europe strategic plan 2021-2024.
The proposed framework goes beyond the state-of-the-art by adopting a probabilistic approach that satisfies three desiderata. First, it supports arbitrarily complex distributions, handling uncertainty over both non-deterministic systems and/or complex, multidimensional enviroments. Second, it unifies under the same formalism the verification of a multitude of ML models and properties of interest. Third, it enables the verification of ML models as part of a larger system and promises an easier integration into the existing probabilistic formal verification (PFV) tools. The approach is based on the notion of Weighted Model Integration, a recent formalism that enable probabilistic inference over arbitrary combination of logical theories and algebraic constraints.
Paolo Morettin is one of the most prolific authors in the novel but vibrant field of WMI. Having both industrial experience in formal verification and a ML-oriented scientific background, he is the ideal candidate for pushing the boundaries of WMI-based probabilistic formal verification. As a MSCA postdoctoral fellow, Paolo Morettin will advance the state-of-the-art with both theoretical and technological contributions, with the ultimate goal of enabling and facilitating the integration of the proposed framework into the existing PFV tools. At the same time, he will develop a highly valuable multidisciplinary ML/FV background, enhancing his career perspectives.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
- sciences naturellesinformatique et science de l'informationintelligence artificielleapprentissage automatique
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Programme(s)
- HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) Main Programme
Appel à propositions
(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2022-PF-01
Voir d’autres projets de cet appelRégime de financement
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European FellowshipsCoordinateur
38122 Trento
Italie