Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Outplaying the hardware lottery for embedded AI

Description du projet

Améliorer l’efficacité des applications intelligentes

Des robots aux dispositifs portables, notre société s’apprête à connaître une nouvelle vague d’applications intelligentes, qui nécessiteront des dispositifs embarqués dotés d’une intelligence améliorée pour un coût énergétique et de latence réduit. Toutefois, la lenteur du cycle de développement des processeurs par rapport aux algorithmes crée une «loterie matérielle», où les plateformes matérielles disponibles déterminent la sélection des algorithmes. Cette impasse de l’innovation limite l’efficacité et restreint le marché à quelques grandes sociétés. Financé par le Conseil européen de la recherche, le projet BINGO permettra de sortir de cette impasse. Il propose la personnalisation d’une plateforme informatique hétérogène pour une charge de travail d’IA donnée en quelques jours grâce à la sélection et à l’assemblage rapides de chiplets de coprocesseurs préfabriqués. Cette avancée permettra l’exécution efficace de nouveaux algorithmes.

Objectif

The next wave of smart applications in our society will need embedded devices (robots, wearables, etc.) with increased intelligence at much reduced energy and latency cost. Compared to current embedded platforms, up to 1000x efficiency gains could be achieved through tight processor-algorithm co-optimization. However, due to the slow development cycle of processor chips (many months to years) in comparison to algorithms (hours to weeks), this co-optimization today merely boils down to selecting algorithms which run well on mature, available hardware. As these processors and their tooling have been optimized for mature algorithms, not the inherently best algorithm wins, but the one that happens to best fit the available old-school hardware platforms. This hardware lottery holds back innovation, severely impacts embedded AI execution efficiency, and narrows the market to a few large companies.

The BINGO vision to break this innovation deadlock is to enable heterogeneous compute platform customization for a given AI workload in a matter of days (100x faster), through rapid selection and assembly of prefabricated co-processor chiplets. This needs breakthroughs in:
a.) A library of embedded-AI-optimized co-processor chiplets, surpassing the SotA in terms of dataflow heterogeneity for improved efficiency (100x over CPU); and inter-operability in heterogeneous chiplet meshes on a reusable breadboard interposer.
b.) Rapid cost models and workload schedulers for beyond-SotA heterogeneous platform customization: automatically deriving the optimal chiplet combination for an application, assemble it and deploy, all in a few days.

Optimizing across the disciplines of chip design, computer architecture, scheduling, and AI fits perfectly to my expertise gained at KU Leuven, imec and Intel. It will stimulate a surge of embedded AI innovations, enable efficient execution of new algorithms, and bring the EU back at the forefront of chip design and embedded AI research.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2022-COG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

KATHOLIEKE UNIVERSITEIT LEUVEN
Contribution nette de l'UE
€ 1 995 750,00
Adresse
OUDE MARKT 13
3000 Leuven
Belgique
Région
Vlaams Gewest Prov. Vlaams-Brabant Arr. Leuven
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
€ 1 995 750,00

Bénéficiaires (1)