Projektbeschreibung
Sichere Steuerung neuronaler Netze für kritische Systeme
Neuronale Netzwerksteuerung erzielt in Simulationen sehr gute Ergebnisse, ihr Verhalten in realen, sicherheitskritischen Systemen kann jedoch gegenwärtig weder zuverlässig garantiert noch formal verifiziert werden. Dieser Mangel an zertifizierter Sicherheit und Robustheit schränkt ihren Einsatz in Hochrisikobereichen wie der Luft- und Raumfahrt ein. Das Ziel des innerhalb der Marie-Skłodowska-Curie-Maßnahmen unterstützten Projekts RDTNNC besteht darin, dafür zu sorgen, dass auf neuronalen Netzen basierende Steuerungen sicher, zuverlässig und zertifizierbar für den Einsatz in Hochrisikosystemen werden. Es wird ein einheitliches Rahmenwerk entwickelt, das maschinelles Lernen mit Kontrolltheorie kombiniert, um Steuerungen für neuronale Netze mit formalen Garantien für Stabilität und Sicherheit zu entwerfen, zu verifizieren und zu interpretieren. Dies trägt dazu bei, eine zentrale Einschränkung von künstlicher Intelligenz (KI) in Bereichen wie der Luft- und Raumfahrt, Gesundheitsversorgung, Robotik und kritischen Infrastruktur zu beheben: den Mangel an nachweisbarer Vertrauenswürdigkeit.
Ziel
The Robust Design of Trustworthy Neural Network Controllers (RDTNNC) project aims to establish a unified framework for designing, verifying and interpreting neural network (NN) controllers with formal guarantees, ensuring the robust stability and safety of neural feedback loops (NFLs). It combines model-based and data-driven approaches to address complexity, uncertainty and data scarcity in artificial intelligence (AI)-based control. The project focuses on one of the main barriers to applying AI in high-risk domains: the lack of certified trustworthiness. Although NN controllers demonstrate strong performance in simulations and prototypes, their use in fields such as aerospace, healthcare, robotics and critical infrastructure remains constrained. Without methods that provide the level of reliability and transparency required by regulators, adoption in these areas remains limited. RDTNNC aims to close this gap between empirical capability and verifiable trust. To achieve this, the project advances scalable verification methods based on integral quadratic constraints and sum-of-squares programming, integrating them with Lyapunov-constrained training to embed robustness and stability in controller design. Data-efficient strategies using meta-learning and few-shot adaptation aim to enable safe synthesis even when models are incomplete or data are scarce. By delivering controllers that combine high performance with verifiable reliability, RDTNNC aspires to contribute to the wider adoption of AI in safety-critical environments. The outcomes are expected to support the objectives of the Horizon Europe Work Programme by promoting trustworthy and human-centric digital technologies, by aligning with the requirements of the EU AI Act for high-risk applications, and by strengthening Europe's role in the responsible development of advanced AI-based control.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
- Technik und Technologie Elektrotechnik, Elektronik, Informationstechnik Elektrotechnik Robotertechnik
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
L69 7ZX LIVERPOOL
Vereinigtes Königreich
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.