Projektbeschreibung
Höhere Sicherheit und Effizienz von KI
Die Verbreitung von Lösungen im Bereich der künstlichen Intelligenz (KI) und die Zunahme der damit verbundenen Innovationen und Technologien haben die Einführung von Vorschriften, Technologien und Methoden erforderlich gemacht, die ihre Effizienz und Sicherheit gewährleisten. Darüber hinaus können diese Lösungen die Testzeit sowie die Zyklen von der Entwicklung bis zur Markteinführung für neue KI-Technologien verkürzen. Das über die Marie-Skłodowska-Curie-Maßnahmen unterstützte Projekt PFV-4-PTAI zielt darauf ab, einen wichtigen Rahmen für die angemessene Prüfung und Bewertung von KI-Systemen für maschinelles Lernen zu schaffen. Um dieses Ziel zu erreichen, wird ein gewichteter Modellintegrationsansatz verwendet, der die Nutzung von Werkzeugen für die probabilistische formale Verifikation innerhalb eines probabilistischen Rahmens erleichtert.
Ziel
This project is concerned with the formal verification of modern Artificial Intelligence (AI) systems with Machine Learning (ML) components. Certifying that an AI satisfies certain requirements, such as fairness or safety standards, is pivotal for the regulation and use of this technology in many domains, especially those with high socio-economical stakes. Techniques that can provide formal guarantees on modern AI will have broad impacts on multiple areas described in the Horizon Europe strategic plan 2021-2024.
The proposed framework goes beyond the state-of-the-art by adopting a probabilistic approach that satisfies three desiderata. First, it supports arbitrarily complex distributions, handling uncertainty over both non-deterministic systems and/or complex, multidimensional enviroments. Second, it unifies under the same formalism the verification of a multitude of ML models and properties of interest. Third, it enables the verification of ML models as part of a larger system and promises an easier integration into the existing probabilistic formal verification (PFV) tools. The approach is based on the notion of Weighted Model Integration, a recent formalism that enable probabilistic inference over arbitrary combination of logical theories and algebraic constraints.
Paolo Morettin is one of the most prolific authors in the novel but vibrant field of WMI. Having both industrial experience in formal verification and a ML-oriented scientific background, he is the ideal candidate for pushing the boundaries of WMI-based probabilistic formal verification. As a MSCA postdoctoral fellow, Paolo Morettin will advance the state-of-the-art with both theoretical and technological contributions, with the ultimate goal of enabling and facilitating the integration of the proposed framework into the existing PFV tools. At the same time, he will develop a highly valuable multidisciplinary ML/FV background, enhancing his career perspectives.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
- Naturwissenschaften Informatik und Informationswissenschaften künstliche Intelligenz maschinelles Lernen
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2022-PF-01
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
38122 TRENTO
Italien
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.