Recall dynamics of working memory networks: Modeling, analysis, and applications

Projektbeschreibung

Mathematische Rahmenumgebung für Arbeitsgedächtnis-Netzwerke

Das menschliche Gedächtnis betreibt leistungsfähige mentale Prozesse aus mehreren Modulen, die für die Verarbeitung, das Lernen und das Abrufen empfangener Reize verantwortlich sind. Das Arbeitsgedächtnis speichert und verarbeitet temporäre Informationen, um kognitive Aufgaben zu lösen. Die Funktionsweise des menschlichen Gedächtnisses zu verstehen, ist zentral wichtig, um seine Rolle in Bezug auf die kognitive Gesundheit zu enträtseln und den Einsatz bei Entwicklungen mit künstlicher Intelligenz wie etwa den tiefen neuronalen Netzwerken zu realisieren. Die Robustheit dieser Netzwerke für den Fall, dass es zu Störungen bei ihren Eingangswerten kommt, ist jedoch noch ein wichtiges offenes Problem. Das EU-finanzierte Projekt ReWoMeN wird eine kombinierte modellbasierte und datengesteuerte mathematische Rahmenumgebung entwickeln, um die Erinnerungsdynamik menschlicher Arbeitsgedächtnisnetzwerke im Zusammenhang mit der Realisierung robuster tiefer neuronaler Netzwerke zu verstehen und zum mechanistischen Verständnis des menschlichen Arbeitsgedächtnisses beizutragen.

Ziel

Memory and learning are human central cognitive abilities. The importance of understanding human memory functioning is evident from its central role in our cognitive health as well as its role as the main inspiration behind developments in artificial intelligence, in particular artificial deep neural networks (DNN). Despite considerable progress in the recent years in the area of DNNs, robustness of these networks is an important open issue. In particular, noise robustness, i.e. DNNs are fragile in maintaining the correct predictions if their input is perturbed. In contrast, a healthy human’s memory system maintains performance despite perturbed inputs. This motivates us to learn from the biological neuronal networks of human memory for a more robust DNN. The human memory is composed of several modules responsible for processing, learning, and recalling the received information. Among the memory modules is the working memory (WM) which is responsible for holding and processing information in a temporary fashion and in service of higher order cognitive tasks, e.g. decision making. The short-term nature of the WM makes it a great example for designing dynamic DNNs, which are useful in safety critical applications in uncertain environments. The aim of this proposal is to build a combined model-based and data-driven mathematical framework for understanding Recall dynamics of human Working Memory Networks (ReWoMeN) for realization of a robust DNN as well as contributing to the mechanistic understanding of the human WM. ReWoMeN address three main challenges including derivation of a biologically plausible system-level model to account for the measured data of human experience of WM recalling, analysis of such a complex model for explaining and predicting WM behavior, and comparing the robustness of our WM model with a recurrent DNN in an image recognition application.