Description du projet
Vers une meilleure compréhension des réseaux de neurones profonds
Les réseaux de neurones profonds (DNN) sont basés sur un réseau d’unités multiples liées entre elles par des fonctions mathématiques qui permettent l’apprentissage. Au cours des dernières décennies, ces algorithmes ont contribué à la vision par ordinateur, à la reconnaissance vocale et audio et au traitement du langage naturel. Un reproche fréquent persiste toutefois au sujet du fait que les algorithmes d’apprentissage en profondeur soient souvent utilisés comme des boîtes noires, ce qui laisse à désirer pour toutes les applications pour lesquelles les garanties de performances sont essentielles. Le projet IT-DNN financé par l’UE vise à améliorer la compréhension des DNN. Cela se fera en développant de nouvelles limites théoriques de l’information sur l’erreur de généralisation pouvant être obtenue en utilisant DNN et en démontrant comment ces limites peuvent guider la conception de tels réseaux.
Objectif
Over the last decade, deep-learning algorithms have dramatically improved the state of the art in many machine-learning problems, including computer vision, speech recognition, natural language processing, and audio recognition. Despite their success, however, there is no satisfactory mathematical theory that explains the functioning of such algorithms. Indeed, a common critique is that deep-learning algorithms are often used as black box, which is unsatisfactory in all applications for which performance guarantees are critical (e.g. traffic-safety applications).
The purpose of this project is to increase our theoretical understanding of deep neural networks (DNN). This will be done by developing novel information-theoretic bounds on the generalization error attainable using DNN and by demonstrating how such bounds can guide the design of such network.
Champ scientifique
- natural sciencescomputer and information sciencesdata sciencenatural language processing
- natural sciencescomputer and information sciencesartificial intelligencecomputer vision
- natural sciencescomputer and information sciencesartificial intelligencemachine learningdeep learning
- natural sciencescomputer and information sciencesartificial intelligencecomputational intelligence
Programme(s)
Régime de financement
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Coordinateur
412 96 GOTEBORG
Suède