Projektbeschreibung
Tiefe neuronale Netze in Anwendungen der biomedizinischen Bildgebung
Tiefe neuronale Netze sind Rechenmodelle, bei denen viele einfache Verarbeitungseinheiten innerhalb miteinander verbundener Schichten parallel arbeiten. Sie führen bestimmte Aufgaben mittels Training aus, indem die Stärke der Verbindungen zwischen den Einheiten erlernt wird. Tiefe neuronale Netze können die Qualität der Rekonstruktion bei der biomedizinische Bildgebung verbessern. Der Haupteinwand geht jedoch auf die Schwierigkeiten zurück, die es bereitet, die Lipschitzkonstante aktueller neuronaler Architekturen zu steuern. Wegen ihnen kann eine kleine Störung der Eingabe zu einer großen Abweichung der Ausgabe führen, was sich negativ auf die Bildrekonstruktion auswirkt. Das EU-finanzierte Projekt FunLearn schlägt nun vor, dieses Problem durch den Einsatz weitaus flacherer Netze zu lösen, die leichter zu kontrollieren sind. Der Ansatz beruht auf Funktionsoptimierung zwecks Verbesserung der Lernarchitekturen und der Entwicklung spezieller neuronaler Netze zur Lösung von Problemen der biomedizinischen Bildgebung.
Ziel
This research program is motivated by the remarkable ability of deep neural networks to improve the quality of biomedical image reconstruction. While the results reported so far are extremely encouraging, serious reservations have been voiced pertaining to the stability of these tools and the extent to which we can trust their output. The main concern is that it is very difficult to control the Lipschitz constant of the current neural architectures. This means that a small perturbation of the input can result in a huge deviation of the output, which can have devastating effects in the context of image reconstruction. We believe that the remedy lies in the use of much shallower networks, which are easier to control. However, a reduction in the number of layers will degrade the performance, unless we augment the sophistication of the primary modules; in particular, the nonlinear ones. By drawing on our career-long experience with splines, we therefore propose to rely on the powerful tools of functional optimization to improve learning architectures. This will allow us to develop two novel approaches to learning: sparse simplicial splines, and hierarchical spline networks—an extension of the popular deep ReLU neural networks In parallel, we shall develop specific neural networks to solve two outstanding problems in biomedical imaging: - A “best-of-both-worlds” approach to biomedical image reconstruction, involving the stable integration of state-of-the-art physics-based solvers with the new tools of machine learning; - The 3D reconstruction of the entire manifold of configurations of a biomolecule from a large collection of very low-dose cryo-electron tomograms. This goal, which may be viewed as the Graal of structural biology, has remained elusive so far and calls for an entirely new paradigm for single-particle analysis.
Wissenschaftliches Gebiet
- natural sciencesbiological sciencesbiochemistrybiomolecules
- natural sciencescomputer and information sciencesartificial intelligencemachine learning
- natural sciencesbiological sciencesmolecular biologystructural biology
- natural sciencescomputer and information sciencesartificial intelligencecomputational intelligence
Schlüsselbegriffe
Programm/Programme
Thema/Themen
Finanzierungsplan
ERC-ADG - Advanced GrantGastgebende Einrichtung
1015 Lausanne
Schweiz