Opis projektu
Dokładniejsze zrozumienie głębokich sieci neuronowych
Głębokie sieci neuronowe to sieci wielu jednostek połączonych ze sobą funkcjami matematycznymi, które umożliwiają im uczenie się. W ciągu ostatnich dziesięcioleci algorytmy te były wykorzystywane do rozwoju rozwiązań w zakresie rozpoznawania obrazów, mowy i dźwięków, a także przetwarzania języka naturalnego. Krytycy takich rozwiązań przytaczają często argument, że algorytmy uczenia głębokiego są często używane w roli czarnej skrzynki, co sprawia, że nie mogą zostać wykorzystane w jakichkolwiek zastosowaniach wymagających gwarancji określonych osiągów. Uczestnicy finansowanego ze środków Unii Europejskiej projektu IT-DNN zamierzają poszerzyć naszą wiedzę na temat głębokich sieci neuronowych poprzez poszerzenie horyzontów dotyczących informacyjno-teoretycznych granic błędu uogólnienia osiągalnego przy ich użyciu, a także zaprezentowanie, w jaki sposób granice te mogą zostać wykorzystane w procesie projektowania takich sieci.
Cel
Over the last decade, deep-learning algorithms have dramatically improved the state of the art in many machine-learning problems, including computer vision, speech recognition, natural language processing, and audio recognition. Despite their success, however, there is no satisfactory mathematical theory that explains the functioning of such algorithms. Indeed, a common critique is that deep-learning algorithms are often used as black box, which is unsatisfactory in all applications for which performance guarantees are critical (e.g. traffic-safety applications).
The purpose of this project is to increase our theoretical understanding of deep neural networks (DNN). This will be done by developing novel information-theoretic bounds on the generalization error attainable using DNN and by demonstrating how such bounds can guide the design of such network.
Dziedzina nauki
- natural sciencescomputer and information sciencesdata sciencenatural language processing
- natural sciencescomputer and information sciencesartificial intelligencecomputer vision
- natural sciencescomputer and information sciencesartificial intelligencemachine learningdeep learning
- natural sciencescomputer and information sciencesartificial intelligencecomputational intelligence
Słowa kluczowe
Program(-y)
Temat(-y)
System finansowania
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Koordynator
412 96 GOTEBORG
Szwecja