Projektbeschreibung
Eine neue Art der Entwicklung statistischer Lernsysteme
Heute liegen dank der Fortschritte auf dem Gebiet des maschinellen Lernens statistische Lernalgorithmen, die Verarbeitung natürlicher Sprache und konversationelle künstliche Intelligenz (KI) im Bereich des Möglichen. Die Frage der Verallgemeinerung ist jedoch nach wie vor eines der größten ungelösten Rätsel der modernen Informatik: Warum lassen sich diese immens komplexen Vorhersageregeln erfolgreich auf zukünftige, völlig neue Fälle anwenden? Zur Beantwortung dieser Frage wird sich das ERC-finanzierte Projekt OPTGEN auf statistisches und verstärkendes Lernen sowie auf die heutigen Standard-Optimierungsalgorithmen zum Training von Lernmodellen konzentrieren. Die OPTGEN-Methode weist auf inhärente Unzulänglichkeiten der weithin akzeptierten Ansichten bezüglich der Verallgemeinerungstheorie von optimierungsbasierten Lernalgorithmen hin. Zu erwarten ist, dass das Projekt unsere Sichtweise auf praktische, effiziente und zuverlässige Lernsysteme und die Art, wie wir sie entwickeln, verändern wird.
Ziel
Recent advances in the field of machine learning (ML) are revolutionizing an ever-growing variety of domains, ranging from statistical learning algorithms in computer vision and natural language processing all the way to reinforcement learning algorithms in autonomous driving and conversational AI. However, many of these breakthroughs demonstrate phenomena that lack explanations, and sometimes even contradict conventional wisdom. Perhaps the greatest mystery of modern ML---and arguably, one of the greatest mysteries of all of modern computer science---is the question of generalization: why do these immensely complex prediction rules successfully apply to future unseen instances? Apart from the pure scientific curiosity it stimulates, I believe that this lack of understanding poses a significant obstacle to widening the applicability of ML to critical applications, like in healthcare or autonomous driving, where the cost of error is disastrous. The broad goal of this project is to tackle the generalization mystery in the context of both statistical learning and reinforcement learning, focusing on optimization algorithms being the de facto contemporary standard in training learning models. Our methodology points out to inherent shortcomings of widely accepted viewpoints with regard to generalization of optimization-based learning algorithms, and takes a crucially different approach that targets the optimization algorithm itself; building bottom-up from fundamental and tractable optimization models, we identify intrinsic properties and develop algorithmic methodologies that enable optimization to effectively generalize in modern statistical- and reinforcement-learning scenarios. A successful outcome would not only lead to a timely and crucial shift in the way the research community approaches generalization of contemporary optimization-based ML, but it may also significantly transform the way we develop practical, efficient and reliable learning systems.
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2022-STG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC -Gastgebende Einrichtung
69978 Tel Aviv
Israel