Descrizione del progetto
Un futuro più verde per gli algoritmi ad alto consumo energetico di moltiplicazione delle matrici
I sistemi di intelligenza artificiale (IA) generativa come ChatGPT hanno rivoluzionato le interazioni tra esseri umani e macchine; tuttavia, il loro costo ambientale è sempre maggiore. Il fabbisogno energetico di queste soluzioni incrementa di nove volte all’anno, ponendo una sfida significativa in termini di impronta di carbonio. I giganti tecnologici e le medie imprese si sono impegnati a ridurre le emissioni che generano, mentre l’UE ha inasprito le normative in tal ambito; ciononostante, l’ascesa dell’IA generativa rappresenta una minaccia per queste promesse. Finanziato dal Consiglio europeo della ricerca, il progetto Green-GPT si propone di risolvere i problemi energetici legati all’IA. Sostituendo gli algoritmi ad alto consumo energetico di moltiplicazione delle matrici con alternative efficienti, Green-GPT prevede un risparmio energetico fino al 50%, mantenendo inalterate le prestazioni e la precisione. Forte di anni di ricerca e innovazioni brevettate, il progetto è alla ricerca di fondi per trasformare la sostenibilità in un’opportunità commerciale, inaugurando un’era più ecologica per l’IA.
Obiettivo
Executive summary:
Generative AI systems, such as chatGPT, recently passed the Turing test, forever transforming human-machine interaction. These systems provide giant productivity leaps across many sectors. However, their energy requirements increase nine-fold annually and their abundance grows at exponential rate. The resulting carbon footprint becomes significant.
IT giants such as Google, Nvidia, Microsoft, and Amazon, as well as many mid-sized companies, have committed to reduce their carbon footprint. The EU is strengthening regulation for emission reductions. But the new generative AI trend jeopardizes emission reduction commitments.
Most power consumption of generative AI is spent on matrix multiplication. Our novel solutions reduce energy consumption and carbon footprint by replacing current matrix multiplication algorithms with more efficient ones. These can be implemented on existing hardware and software stacks. Potential energy saving predicted at about 40-50%, while maintaining performance and accuracy.
The novel developments of Prof. Oded Schwartz and his strong team are based on years of research, and protected by patents. The funds are requested to pursue business opportunity.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
- scienze naturaliinformatica e scienze dell'informazionesoftware
- scienze socialieconomia e commercioscienze economicheeconomia della produzioneproduttività
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Programma(i)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Argomento(i)
Meccanismo di finanziamento
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsIstituzione ospitante
91904 Jerusalem
Israele