Descrizione del progetto
Quando un software supervisiona un altro software
Nell’era del cloud computing e dei sistemi ciberfisici, quali la guida assistita da computer, la complessità dei software sta aumentando più rapidamente della velocità di miglioramento delle tecniche di garanzia della qualità correlate. Il progetto VAMOS, finanziato dal CER, svilupperà un software di monitoraggio per l’individuazione di eventuali vulnerabilità, errori e decisioni inique in fase di esecuzione. In particolare, il progetto metterà a punto una risorsa quantitativa e una teoria dell’approssimazione per il monitoraggio di software che permette compromessi tra costi e precisione. Ad esempio, i monitor saranno in grado di controllare la sicurezza dei sistemi nonché l’equità degli algoritmi, le politiche di sicurezza e le proprietà statistiche del software. Il progetto presterà particolare attenzione al monitoraggio automatizzato di software difficili da verificare, quali i calcoli eseguiti da reti neurali.
Obiettivo
We propose a theoretical basis and systems support needed to turn algorithmic monitoring from a runtime tool in the arsenal of formal methods into a pervasive and trusted engineering paradigm for the deployment of software. The ever-growing number of computational resources (many-core processors, data centers) allows software algorithms–decision makers–to be paired up with software monitors–decision checkers–where each monitor watches an algorithm in real time and provides warnings or intervenes when anything undesirable is observed. In order to be trusted, monitors are designed and linked independently of the monitored software. Monitoring is fundamentally a “best-effort” endeavor: it does not require complete specifications, nor perfect accuracy, but its widespread adoption requires a theory for the analysis of cost-precision trade-offs. Compared to the mature theories of computability and complexity (what can be computed? at what cost?), the theory of monitorability (what can be monitored, at what precision and cost?) is underdeveloped. We develop a quantitative, fine-grained resource and approximation theory for monitoring which supports the synthesis of monitors with desired cost-precision profiles. Our monitors can track the safety of systems as well as the fairness of algorithms (i.e. the absence of bias), security policies, and statistical properties of software. In addition, we facilitate the engineering paradigm of algorithmic monitoring by implementing systems support for the automated monitoring of software that is difficult to verify, such as algorithms that rely on neural networks, computations that happen in the cloud, and electronic systems that interface with the physical world (e.g. software for controlling medical and transportation devices). In all of these domains, the systematic and independent monitoring of critical requirements and sensitive statistics will significantly enhance trust in algorithmic decisions and digital systems.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Siamo spiacenti… si è verificato un errore inatteso durante l’esecuzione.
È necessario essere autenticati. La sessione potrebbe essere scaduta.
Grazie per il tuo feedback. Riceverai presto un'e-mail di conferma dell'invio. Se hai scelto di ricevere una notifica sullo stato della segnalazione, sarai contattato anche quando lo stato della segnalazione cambierà.
Parole chiave
Programma(i)
Argomento(i)
Invito a presentare proposte
(si apre in una nuova finestra) ERC-2020-ADG
Vedi altri progetti per questo bandoMeccanismo di finanziamento
ERC-ADG -Istituzione ospitante
3400 Klosterneuburg
Austria