Descrizione del progetto
Apprendimento profondo efficace che garantisce agenti autonomi sicuri ed equi
L’apprendimento automatico è un campo dell’informatica incentrato sull’«insegnare» ai computer a eseguire determinate attività senza essere esplicitamente programmati per farlo. Sebbene le sue origini risalgano agli anni ’50, ha compiuto enormi progressi negli ultimi due decenni. L’apprendimento profondo sta facendo un ulteriore passo avanti, applicando tecniche di apprendimento automatico alla creazione di reti neurali artificiali che imitano sempre più l’anatomia e la fisiologia del cervello umano. Tali algoritmi saranno fondamentali per le attività sempre più autonome di macchine e dispositivi e per le loro interazioni di tipo umano con le persone nell’ambito dell’Internet delle cose e dell’Industria 4.0. Il progetto FUN2MODEL, finanziato dall’UE, svilupperà un nuovo quadro per garantire che le decisioni complesse siano prese tenendo a mente l’equità e la sicurezza.
Obiettivo
Machine learning is revolutionising computer science and AI. Much of its success is due to deep neural networks, which have demonstrated outstanding performance in perception tasks such as image classification. Solutions based on deep learning are now being deployed in real-world systems, from virtual personal assistants to self-driving cars. Unfortunately, the black-box nature and instability of deep neural networks is raising concerns about the readiness of this technology. Efforts to address robustness of deep learning are emerging, but are limited to simple properties and function-based perception tasks that learn data associations. While perception is an essential feature of an artificial agent, achieving beneficial collaboration between human and artificial agents requires models of autonomy, inference, decision making, control and coordination that significantly go beyond perception. To address this challenge, this project will capitalise on recent breakthroughs by the PI and develop a model-based, probabilistic reasoning framework for autonomous agents with cognitive aspects, which supports reasoning about their decisions, agent interactions and inferences that capture cognitive information, in presence of uncertainty and partial observability. The objectives are to develop novel probabilistic verification and synthesis techniques to guarantee safety, robustness and fairness for complex decisions based on machine learning, formulate a comprehensive, compositional game-based modelling framework for reasoning about systems of autonomous agents and their interactions, and evaluate the techniques on a variety of case studies.
Addressing these challenges will require a fundamental shift towards Bayesian methods, and development of new, scalable, techniques, which differ from conventional probabilistic verification. If successful, the project will result in major advances in the quest towards provably robust and beneficial AI.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
- scienze naturaliinformatica e scienze dell'informazioneintelligenza artificialeapprendimento automatico
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Parole chiave
Programma(i)
Argomento(i)
Meccanismo di finanziamento
ERC-ADG - Advanced GrantIstituzione ospitante
OX1 2JD Oxford
Regno Unito