Descrizione del progetto
Archiviazione adattiva intelligente per potenziare il calcolo ad alte prestazioni
La crescente necessità di elaborare insiemi di dati estremamente grandi è la forza trainante che accelera la transizione al calcolo ad alte prestazioni. Tuttavia, le gerarchie piatte di archiviazione dei dati con un sistema di archiviazione centrale parallelo si stanno dimostrando inadeguate. Le emergenti gerarchie di archiviazione a più livelli potrebbero soddisfare le esigenze delle applicazioni ad alta intensità di dati, ma attualmente mancano meccanismi di controllo adeguati per le risorse disponibili. Il progetto ADMIRE, finanziato dall’UE, prevede di sviluppare un sistema di archiviazione adattiva che dovrebbe permettere ai sistemi di calcolo ad alte prestazioni di fornire un rendimento molto elevato e di aumentare le prestazioni delle applicazioni. L’obiettivo è quello di migliorare notevolmente il tempo di esecuzione delle applicazioni in campi quali le previsioni del tempo, il telerilevamento e l’apprendimento profondo.
Obiettivo
The growing need to process extremely large data sets is one of the main drivers for building exascale HPC systems today. However, the flat storage hierarchies found in classic HPC architectures no longer satisfy the performance requirements of data-processing applications. Uncoordinated file access in combination with limited bandwidth make the centralised back-end parallel file system a serious bottleneck. At the same time, emerging multi-tier storage hierarchies come with the potential to remove this barrier. But maximising performance still requires careful control to avoid congestion and balance computational with storage performance. Unfortunately, appropriate interfaces and policies for managing such an enhanced I/O stack are still lacking.
The main objective of the ADMIRE project is to establish this control by creating an active I/O stack that dynamically adjusts computation and storage requirements through intelligent global coordination, malleability of computation and I/O, and the scheduling of storage resources along all levels of the storage hierarchy. To achieve this, we will develop a software-defined framework based on the principles of scalable monitoring and control, separated control and data paths, and the orchestration of key system components and applications through embedded control points.
Our software-only solution will allow the throughput of HPC systems and the performance of individual applications to be substantially increased – and consequently energy consumption to be decreased – by taking advantage of fast and power-efficient node-local storage tiers using novel, European ad-hoc storage systems and in-transit/in-situ processing facilities. Furthermore, our enhanced I/O stack will offer quality-of-service (QoS) and resilience. An integrated and operational prototype will be validated with several use cases from various domains, including climate/weather, life sciences, physics, remote sensing, and deep learning.
Campo scientifico
Parole chiave
Programma(i)
Meccanismo di finanziamento
RIA - Research and Innovation actionCoordinatore
28903 Getafe (Madrid)
Spagna
Mostra sulla mappa
Partecipanti (18)
55122 Mainz
Mostra sulla mappa
08034 Barcelona
Mostra sulla mappa
64289 Darmstadt
Mostra sulla mappa
92360 Meudon La Foret
Mostra sulla mappa
78153 Le Chesnay Cedex
Mostra sulla mappa
Soggetto giuridico diverso da un subappaltatore che è affiliato o legalmente collegato a un partecipante. Il soggetto svolge le attività secondo le condizioni stabilite nell’accordo di sovvenzione, fornisce beni o servizi per l’azione, ma non ha sottoscritto l’accordo di sovvenzione. Una terza parte rispetta le regole applicabili al suo partecipante correlato ai sensi dell’accordo di sovvenzione per quanto riguarda l’ammissibilità dei costi e il controllo delle spese.
33000 Bordeaux
Mostra sulla mappa
91680 Bruyeres Le Chatel
Mostra sulla mappa
L’organizzazione si è definita una PMI (piccola e media impresa) al momento della firma dell’accordo di sovvenzione.
52428 Julich
Mostra sulla mappa
00185 Roma
Mostra sulla mappa
Soggetto giuridico diverso da un subappaltatore che è affiliato o legalmente collegato a un partecipante. Il soggetto svolge le attività secondo le condizioni stabilite nell’accordo di sovvenzione, fornisce beni o servizi per l’azione, ma non ha sottoscritto l’accordo di sovvenzione. Una terza parte rispetta le regole applicabili al suo partecipante correlato ai sensi dell’accordo di sovvenzione per quanto riguarda l’ammissibilità dei costi e il controllo delle spese.
80133 Napoli
Mostra sulla mappa
Soggetto giuridico diverso da un subappaltatore che è affiliato o legalmente collegato a un partecipante. Il soggetto svolge le attività secondo le condizioni stabilite nell’accordo di sovvenzione, fornisce beni o servizi per l’azione, ma non ha sottoscritto l’accordo di sovvenzione. Una terza parte rispetta le regole applicabili al suo partecipante correlato ai sensi dell’accordo di sovvenzione per quanto riguarda l’ammissibilità dei costi e il controllo delle spese.
10124 Torino
Mostra sulla mappa
Soggetto giuridico diverso da un subappaltatore che è affiliato o legalmente collegato a un partecipante. Il soggetto svolge le attività secondo le condizioni stabilite nell’accordo di sovvenzione, fornisce beni o servizi per l’azione, ma non ha sottoscritto l’accordo di sovvenzione. Una terza parte rispetta le regole applicabili al suo partecipante correlato ai sensi dell’accordo di sovvenzione per quanto riguarda l’ammissibilità dei costi e il controllo delle spese.
56126 Pisa
Mostra sulla mappa
Soggetto giuridico diverso da un subappaltatore che è affiliato o legalmente collegato a un partecipante. Il soggetto svolge le attività secondo le condizioni stabilite nell’accordo di sovvenzione, fornisce beni o servizi per l’azione, ma non ha sottoscritto l’accordo di sovvenzione. Una terza parte rispetta le regole applicabili al suo partecipante correlato ai sensi dell’accordo di sovvenzione per quanto riguarda l’ammissibilità dei costi e il controllo delle spese.
20122 Milano
Mostra sulla mappa
40033 Casalecchio Di Reno Bo
Mostra sulla mappa
42019 Scandiano
Mostra sulla mappa
L’organizzazione si è definita una PMI (piccola e media impresa) al momento della firma dell’accordo di sovvenzione.
61 704 Poznan
Mostra sulla mappa
100 44 Stockholm
Mostra sulla mappa
80539 Munchen
Mostra sulla mappa