Description du projet
Un avenir plus vert pour les algorithmes de multiplication matricielle à forte consommation d’énergie
Les systèmes d’intelligence artificielle (IA) générative, tels que ChatGPT, révolutionnent les interactions entre l’homme et la machine. Ils présentent toutefois un coût environnemental de plus en plus élevé. Leur demande en énergie est multipliée par neuf chaque année, ce qui représente un défi considérable en termes d’empreinte carbonique. Les géants de la technologie et les entreprises de taille moyenne se sont engagés à réduire leurs émissions, tandis que l’UE a renforcé sa réglementation. Cependant, l’augmentation de l’IA générative menace ces engagements. Financé par le Conseil européen de la recherche, le projet Green-GPT entend résoudre les problèmes énergétiques de l’IA. En remplaçant les algorithmes de multiplication matricielle gourmands en énergie par des alternatives efficaces, Green-GPT prévoit des économies d’énergie allant jusqu’à 50 % tout en maintenant les performances et la précision. Fort de plusieurs années de recherche et d’innovations brevetées, le projet recherche des fonds pour transformer la durabilité en opportunité commerciale, ouvrant ainsi la voie à une ère plus verte pour l’IA.
Objectif
Executive summary:
Generative AI systems, such as chatGPT, recently passed the Turing test, forever transforming human-machine interaction. These systems provide giant productivity leaps across many sectors. However, their energy requirements increase nine-fold annually and their abundance grows at exponential rate. The resulting carbon footprint becomes significant.
IT giants such as Google, Nvidia, Microsoft, and Amazon, as well as many mid-sized companies, have committed to reduce their carbon footprint. The EU is strengthening regulation for emission reductions. But the new generative AI trend jeopardizes emission reduction commitments.
Most power consumption of generative AI is spent on matrix multiplication. Our novel solutions reduce energy consumption and carbon footprint by replacing current matrix multiplication algorithms with more efficient ones. These can be implemented on existing hardware and software stacks. Potential energy saving predicted at about 40-50%, while maintaining performance and accuracy.
The novel developments of Prof. Oded Schwartz and his strong team are based on years of research, and protected by patents. The funds are requested to pursue business opportunity.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
- sciences naturellesinformatique et science de l'informationlogiciel
- sciences socialeséconomie et affaireséconomieéconomie de la productionproductivité
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Programme(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Régime de financement
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsInstitution d’accueil
91904 Jerusalem
Israël