Description du projet
Un stockage adaptatif intelligent pour dynamiser le calcul haute performance
Le besoin croissant de traiter des ensembles de données extrêmement volumineux est le moteur qui accélère la transition vers le calcul à haute performance. Cependant, les hiérarchies de stockage de données plates avec un système de fichiers parallèle central se révèlent inappropriées. Les hiérarchies de stockage multi-tiers émergentes pourraient répondre aux besoins des applications à forte intensité de données, mais il leur manque actuellement des mécanismes de contrôle appropriés pour les ressources disponibles. Le projet ADMIRE, financé par l’UE, prévoit de développer un système de stockage adaptatif qui devrait permettre aux systèmes de calcul à haute performance de fournir un débit très élevé et d’augmenter la performance des applications. L’objectif consiste à améliorer considérablement le temps d’exécution des applications dans des domaines tels que les prévisions météorologiques, la télédétection et l’apprentissage profond.
Objectif
The growing need to process extremely large data sets is one of the main drivers for building exascale HPC systems today. However, the flat storage hierarchies found in classic HPC architectures no longer satisfy the performance requirements of data-processing applications. Uncoordinated file access in combination with limited bandwidth make the centralised back-end parallel file system a serious bottleneck. At the same time, emerging multi-tier storage hierarchies come with the potential to remove this barrier. But maximising performance still requires careful control to avoid congestion and balance computational with storage performance. Unfortunately, appropriate interfaces and policies for managing such an enhanced I/O stack are still lacking.
The main objective of the ADMIRE project is to establish this control by creating an active I/O stack that dynamically adjusts computation and storage requirements through intelligent global coordination, malleability of computation and I/O, and the scheduling of storage resources along all levels of the storage hierarchy. To achieve this, we will develop a software-defined framework based on the principles of scalable monitoring and control, separated control and data paths, and the orchestration of key system components and applications through embedded control points.
Our software-only solution will allow the throughput of HPC systems and the performance of individual applications to be substantially increased – and consequently energy consumption to be decreased – by taking advantage of fast and power-efficient node-local storage tiers using novel, European ad-hoc storage systems and in-transit/in-situ processing facilities. Furthermore, our enhanced I/O stack will offer quality-of-service (QoS) and resilience. An integrated and operational prototype will be validated with several use cases from various domains, including climate/weather, life sciences, physics, remote sensing, and deep learning.
Champ scientifique
Mots‑clés
Programme(s)
Régime de financement
RIA - Research and Innovation actionCoordinateur
28903 Getafe (Madrid)
Espagne
Voir sur la carte
Participants (18)
55122 Mainz
Voir sur la carte
08034 Barcelona
Voir sur la carte
64289 Darmstadt
Voir sur la carte
92360 Meudon La Foret
Voir sur la carte
78153 Le Chesnay Cedex
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
33000 Bordeaux
Voir sur la carte
91680 Bruyeres Le Chatel
Voir sur la carte
L’entreprise s’est définie comme une PME (petite et moyenne entreprise) au moment de la signature de la convention de subvention.
52428 Julich
Voir sur la carte
00185 Roma
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
80133 Napoli
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
10124 Torino
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
56126 Pisa
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
20122 Milano
Voir sur la carte
40033 Casalecchio Di Reno Bo
Voir sur la carte
42019 Scandiano
Voir sur la carte
L’entreprise s’est définie comme une PME (petite et moyenne entreprise) au moment de la signature de la convention de subvention.
61 704 Poznan
Voir sur la carte
100 44 Stockholm
Voir sur la carte
80539 Munchen
Voir sur la carte