Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Reducing Carbon Footprint for Generative AI

Opis projektu

Bardziej ekologiczna przyszłość w kontekście stosowania energochłonnych algorytmów mnożenia macierzy

Systemy generatywnej sztucznej inteligencji (SI), takie jak ChatGPT, rewolucjonizują interakcje między ludźmi i maszynami, jednak ich działanie wiąże się z rosnącymi kosztami środowiskowymi. Ich zapotrzebowanie na energię rośnie każdego roku aż dziewięciokrotnie, co stanowi poważny problem pod względem generowanego śladu węglowego. Giganci technologiczni i firmy średniej wielkości zobowiązują się do redukcji emisji, a UE zaostrza odnośne przepisy. Rozwój generatywnej SI zagraża jednak dotrzymaniu tych zobowiązań. Finansowany przez Europejską Radę ds. Badań Naukowych projekt Green-GPT ma na celu rozwiązanie problemów energetycznych związanych z SI. Zastępując energochłonne algorytmy mnożenia macierzy wydajnymi alternatywami, zespół Green-GPT chce zapewnić nawet 50% oszczędność energii przy zachowaniu takiej samej wydajności i dokładności. W oparciu o wieloletnie badania i opatentowane innowacje zespół poszukuje funduszy pozwalających przekształcić zrównoważony rozwój w szansę biznesową, co przyczyni się do otwarcia bardziej ekologicznej ery sztucznej inteligencji.

Cel

Executive summary:

Generative AI systems, such as chatGPT, recently passed the Turing test, forever transforming human-machine interaction. These systems provide giant productivity leaps across many sectors. However, their energy requirements increase nine-fold annually and their abundance grows at exponential rate. The resulting carbon footprint becomes significant.

IT giants such as Google, Nvidia, Microsoft, and Amazon, as well as many mid-sized companies, have committed to reduce their carbon footprint. The EU is strengthening regulation for emission reductions. But the new generative AI trend jeopardizes emission reduction commitments.

Most power consumption of generative AI is spent on matrix multiplication. Our novel solutions reduce energy consumption and carbon footprint by replacing current matrix multiplication algorithms with more efficient ones. These can be implemented on existing hardware and software stacks. Potential energy saving predicted at about 40-50%, while maintaining performance and accuracy.

The novel developments of Prof. Oded Schwartz and his strong team are based on years of research, and protected by patents. The funds are requested to pursue business opportunity.

Dziedzina nauki (EuroSciVoc)

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2023-POC

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

THE HEBREW UNIVERSITY OF JERUSALEM
Wkład UE netto
€ 150 000,00
Koszt całkowity
Brak danych

Beneficjenci (1)