Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Outplaying the hardware lottery for embedded AI

Descrizione del progetto

Migliorare l’efficienza delle applicazioni intelligenti

Dai robot ai dispositivi indossabili, la nostra società è destinata a fondersi con una nuova ondata di applicazioni intelligenti, che richiederanno dispositivi integrati con maggiori capacità di intelligenza in grado di garantire il consumo di una minore quantità di energia e un basso costo di latenza. Ciononostante, il lento ciclo di sviluppo dei chip per i processori in confronto agli algoritmi crea una «lotteria dell’hardware», ovvero una situazione in cui le piattaforme hardware disponibili determinano la selezione degli algoritmi. Questa paralisi a livello di innovazione costituisce un limite in termini di efficienza e restringe il mercato a poche società di grandi dimensioni. Finanziato dal Consiglio europeo della ricerca, il progetto BINGO porrà termine a questa paralisi. Il progetto propone un quadro di personalizzazione eterogenea delle piattaforme di calcolo per un determinato carico di lavoro basato sull’IA in pochi giorni grazie a una selezione e un assemblaggio rapidi dei chiplet co-processore prefabbricati. Questa rivoluzione consentirà di eseguire nuovi algoritmi in modo efficiente.

Obiettivo

The next wave of smart applications in our society will need embedded devices (robots, wearables, etc.) with increased intelligence at much reduced energy and latency cost. Compared to current embedded platforms, up to 1000x efficiency gains could be achieved through tight processor-algorithm co-optimization. However, due to the slow development cycle of processor chips (many months to years) in comparison to algorithms (hours to weeks), this co-optimization today merely boils down to selecting algorithms which run well on mature, available hardware. As these processors and their tooling have been optimized for mature algorithms, not the inherently best algorithm wins, but the one that happens to best fit the available old-school hardware platforms. This hardware lottery holds back innovation, severely impacts embedded AI execution efficiency, and narrows the market to a few large companies.

The BINGO vision to break this innovation deadlock is to enable heterogeneous compute platform customization for a given AI workload in a matter of days (100x faster), through rapid selection and assembly of prefabricated co-processor chiplets. This needs breakthroughs in:
a.) A library of embedded-AI-optimized co-processor chiplets, surpassing the SotA in terms of dataflow heterogeneity for improved efficiency (100x over CPU); and inter-operability in heterogeneous chiplet meshes on a reusable breadboard interposer.
b.) Rapid cost models and workload schedulers for beyond-SotA heterogeneous platform customization: automatically deriving the optimal chiplet combination for an application, assemble it and deploy, all in a few days.

Optimizing across the disciplines of chip design, computer architecture, scheduling, and AI fits perfectly to my expertise gained at KU Leuven, imec and Intel. It will stimulate a surge of embedded AI innovations, enable efficient execution of new algorithms, and bring the EU back at the forefront of chip design and embedded AI research.

Campo scientifico (EuroSciVoc)

Parole chiave

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC - HORIZON ERC Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2022-COG

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

KATHOLIEKE UNIVERSITEIT LEUVEN
Contributo netto dell'UE
€ 1 995 750,00
Indirizzo
OUDE MARKT 13
3000 Leuven
Belgio
Regione
Vlaams Gewest Prov. Vlaams-Brabant Arr. Leuven
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
€ 1 995 750,00

Beneficiari (1)