Skip to main content
European Commission logo print header

Integrated Data Analysis Pipelines for Large-Scale Data Management, HPC, and Machine Learning

Projektbeschreibung

Neue Systeme für datengestützte Anwendungen von heute

Die Infrastruktur, die der Datenverwaltung dient, wächst rasant. Zur Erstellung exakter Prognosen nutzen moderne, datengestützte Anwendungen umfangreiche, heterogene Datenbestände, die interessante Muster enthüllen. Außerdem entstehen robuste Maschinenlernmodelle, die dabei helfen sollen, genaue Vorhersagen zu treffen. Darauf aufbauend werden neue Systeme entwickelt, die traditionelles Hochleistungsrechnen und die Architektur darunterliegender Hardwarecluster nutzen. Es ist auch ein Trend in Richtung komplexer Pipelines für die Datenanalyse, bei denen verschiedene Systeme kombiniert werden, zu beobachten. Das EU-finanzierte Projekt DAPHNE wird eine offene und erweiterbare Systeminfrastruktur festlegen, die auf integrierte Pipelines für die Datenanalyse ausgerichtet ist. Dazu erstellt das Projektteam eine Referenzimplementierung von Sprachabstraktionen (Anwendungsprogrammierschnittstellen und eine domänenspezifische Sprache) sowie eine Zwischendarstellung und gestaltet Kompilierverfahren und Laufzeitmethoden.

Ziel

Modern data-driven applications leverage large, heterogeneous data collections to find interesting patterns, and build robust machine learning (ML) models for accurate predictions. Large data sizes and advanced analytics spurred the development and adoption of data-parallel computation frameworks like Apache Spark or Flink as well as distributed ML systems like MLlib, TensorFlow, or PyTorch. A key observation is that these new systems share many techniques with traditional high-performance computing (HPC), and the architecture of underlying HW clusters converges. Yet, the programming paradigms, cluster resource management, as well as data formats and representations differ substantially across data management, HPC, and ML software stacks. There is a trend though, toward complex data analysis pipelines that combine these different systems. Examples are workflows of distributed data pre-processing, tuned HPC libraries, and dedicated ML systems, but also HPC applications that leverage ML models for more cost-effective simulation. Major obstacles are (1) limited development productivity for integrated analysis pipelines due to different programming models, and separated cluster environments, (2) unnecessary data movement overhead and underutilization due to separate, statically provisioned clusters, and (3) lack of a common system infrastructure with good interoperability. For these reasons, DAPHNE’s overall objective is the definition of an open and extensible systems infrastructure for integrated data analysis pipelines. We aim at building a reference implementation of language abstractions (i.e. APIs and a domain-specific language), an intermediate representation, as well as compilation and runtime techniques with support for integrating and scheduling heterogeneous accelerator and storage devices. A variety of real-world, high-impact use cases, datasets, and a new benchmark will be used for qualitative and quantitative analysis compared to state-of-the-art.

Aufforderung zur Vorschlagseinreichung

H2020-ICT-2018-20

Andere Projekte für diesen Aufruf anzeigen

Unterauftrag

H2020-ICT-2020-1

æ

Koordinator

KNOW-CENTER GMBH RESEARCH CENTER FOR DATA-DRIVEN BUSINESS & BIG DATA ANALYTICS
Netto-EU-Beitrag
€ 737 732,50
Adresse
Sandgasse 36/4
8010 Graz
Österreich

Auf der Karte ansehen

Region
Südösterreich Steiermark Graz
Aktivitätstyp
Research Organisations
Links
Weitere Finanzmittel
€ 0,00

Beteiligte (13)