Descrizione del progetto
Verso una maggiore comprensione delle reti neurali profonde
Le reti neurali profonde (DNN, Deep Neural Networks) si basano su una rete di più unità tenute insieme da funzioni matematiche che consentono l’apprendimento. Negli ultimi decenni, questi algoritmi hanno contribuito alla visione artificiale, al riconoscimento vocale e audio e all’elaborazione del linguaggio naturale. Una critica comune rimane tuttavia che gli algoritmi di apprendimento profondo sono spesso utilizzati come scatola nera, il che è insoddisfacente in tutte le applicazioni per le quali le garanzie di prestazione sono fondamentali. Il progetto IT-DNN, finanziato dall’UE, mira a migliorare la comprensione delle DNN. Ciò avverrà mediante lo sviluppo di nuovi limiti teorici dell’informazione sull’errore di generalizzazione ottenibile utilizzando DNN e dimostrando come tali limiti possano guidare la progettazione delle reti.
Obiettivo
Over the last decade, deep-learning algorithms have dramatically improved the state of the art in many machine-learning problems, including computer vision, speech recognition, natural language processing, and audio recognition. Despite their success, however, there is no satisfactory mathematical theory that explains the functioning of such algorithms. Indeed, a common critique is that deep-learning algorithms are often used as black box, which is unsatisfactory in all applications for which performance guarantees are critical (e.g. traffic-safety applications).
The purpose of this project is to increase our theoretical understanding of deep neural networks (DNN). This will be done by developing novel information-theoretic bounds on the generalization error attainable using DNN and by demonstrating how such bounds can guide the design of such network.
Campo scientifico
- natural sciencescomputer and information sciencesdata sciencenatural language processing
- natural sciencescomputer and information sciencesartificial intelligencecomputer vision
- natural sciencescomputer and information sciencesartificial intelligencemachine learningdeep learning
- natural sciencescomputer and information sciencesartificial intelligencecomputational intelligence
Parole chiave
Programma(i)
Argomento(i)
Meccanismo di finanziamento
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Coordinatore
412 96 GOTEBORG
Svezia