Descrizione del progetto
Rendere sicuri i controller delle reti neurali per i sistemi critici
I controller a rete neurale possono ottenere ottimi risultati nelle simulazioni, ma il loro comportamento in sistemi reali, critici per la sicurezza, attualmente non può essere garantito in modo affidabile né verificato formalmente. Questa mancanza di certificazioni in termini di sicurezza e robustezza ne limita l’utilizzo in settori ad alto rischio come quello aerospaziale. Il progetto RDTNNC, finanziato dal programma di azioni Marie Skłodowska-Curie, si propone di rendere i controller basati su reti neurali sicuri, affidabili e certificabili per l’uso in sistemi ad alto rischio. Per farlo, svilupperà un quadro unificato che combina l’apprendimento automatico con la teoria del controllo per progettare, verificare e interpretare i controller a rete neurale con garanzie formali di stabilità e sicurezza. In tal modo, contribuirà a superare la mancanza di affidabilità dimostrabile, una limitazione fondamentale dell’IA in settori come l’industria aerospaziale, la sanità, la robotica e le infrastrutture critiche.
Obiettivo
The Robust Design of Trustworthy Neural Network Controllers (RDTNNC) project aims to establish a unified framework for designing, verifying and interpreting neural network (NN) controllers with formal guarantees, ensuring the robust stability and safety of neural feedback loops (NFLs). It combines model-based and data-driven approaches to address complexity, uncertainty and data scarcity in artificial intelligence (AI)-based control. The project focuses on one of the main barriers to applying AI in high-risk domains: the lack of certified trustworthiness. Although NN controllers demonstrate strong performance in simulations and prototypes, their use in fields such as aerospace, healthcare, robotics and critical infrastructure remains constrained. Without methods that provide the level of reliability and transparency required by regulators, adoption in these areas remains limited. RDTNNC aims to close this gap between empirical capability and verifiable trust. To achieve this, the project advances scalable verification methods based on integral quadratic constraints and sum-of-squares programming, integrating them with Lyapunov-constrained training to embed robustness and stability in controller design. Data-efficient strategies using meta-learning and few-shot adaptation aim to enable safe synthesis even when models are incomplete or data are scarce. By delivering controllers that combine high performance with verifiable reliability, RDTNNC aspires to contribute to the wider adoption of AI in safety-critical environments. The outcomes are expected to support the objectives of the Horizon Europe Work Programme by promoting trustworthy and human-centric digital technologies, by aligning with the requirements of the EU AI Act for high-risk applications, and by strengthening Europe's role in the responsible development of advanced AI-based control.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: Il Vocabolario Scientifico Europeo.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: Il Vocabolario Scientifico Europeo.
- ingegneria e tecnologia ingegneria elettrica, ingegneria elettronica, ingegneria informatica ingegneria elettronica robotica
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Parole chiave
Parole chiave del progetto, indicate dal coordinatore del progetto. Da non confondere con la tassonomia EuroSciVoc (campo scientifico).
Parole chiave del progetto, indicate dal coordinatore del progetto. Da non confondere con la tassonomia EuroSciVoc (campo scientifico).
Programma(i)
Programmi di finanziamento pluriennali che definiscono le priorità dell’UE in materia di ricerca e innovazione.
Programmi di finanziamento pluriennali che definiscono le priorità dell’UE in materia di ricerca e innovazione.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
PROGRAMMA PRINCIPALE
Vedi tutti i progetti finanziati nell’ambito di questo programma
Argomento(i)
Gli inviti a presentare proposte sono suddivisi per argomenti. Un argomento definisce un’area o un tema specifico per il quale i candidati possono presentare proposte. La descrizione di un argomento comprende il suo ambito specifico e l’impatto previsto del progetto finanziato.
Gli inviti a presentare proposte sono suddivisi per argomenti. Un argomento definisce un’area o un tema specifico per il quale i candidati possono presentare proposte. La descrizione di un argomento comprende il suo ambito specifico e l’impatto previsto del progetto finanziato.
Meccanismo di finanziamento
Meccanismo di finanziamento (o «Tipo di azione») all’interno di un programma con caratteristiche comuni. Specifica: l’ambito di ciò che viene finanziato; il tasso di rimborso; i criteri di valutazione specifici per qualificarsi per il finanziamento; l’uso di forme semplificate di costi come gli importi forfettari.
Meccanismo di finanziamento (o «Tipo di azione») all’interno di un programma con caratteristiche comuni. Specifica: l’ambito di ciò che viene finanziato; il tasso di rimborso; i criteri di valutazione specifici per qualificarsi per il finanziamento; l’uso di forme semplificate di costi come gli importi forfettari.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento
Invito a presentare proposte
Procedura per invitare i candidati a presentare proposte di progetti, con l’obiettivo di ricevere finanziamenti dall’UE.
Procedura per invitare i candidati a presentare proposte di progetti, con l’obiettivo di ricevere finanziamenti dall’UE.
(si apre in una nuova finestra) HORIZON-MSCA-2025-PF
Vedi tutti i progetti finanziati nell’ambito del bandoCoordinatore
Contributo finanziario netto dell’UE. La somma di denaro che il partecipante riceve, decurtata dal contributo dell’UE alla terza parte collegata. Tiene conto della distribuzione del contributo finanziario dell’UE tra i beneficiari diretti del progetto e altri tipi di partecipanti, come i partecipanti terzi.
L69 7ZX LIVERPOOL
Regno Unito
I costi totali sostenuti dall’organizzazione per partecipare al progetto, compresi i costi diretti e indiretti. Questo importo è un sottoinsieme del bilancio complessivo del progetto.