Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Data-efficient model training for sustainable artificial intelligence

Opis projektu

Efektywność wykorzystania danych w uczeniu modeli wizualnych i językowych

Sztuczna inteligencja (AI) odgrywa ważną rolę w opiece zdrowotnej, diagnostyce medycznej oraz w dziedzinie dziedzictwa kulturowego. Najnowsze postępy w zakresie modeli podstawowych, w tym modeli wizualno-językowych (VLM), wykazały ich możliwości, jednak ich szkolenie wymaga zasobów obliczeniowych, co zwiększa koszty środowiskowe i ogranicza dostępność. Zespół projektu DeTAI podejmuje to wyzwanie, badając, czy podobną wydajność można osiągnąć przy znacznie mniejszej ilości danych. Projekt DeTAI, korzystający ze wsparcia programu działania „Maria Skłodowska-Curie”, ma na celu zmniejszenie o połowę wymagań dotyczących danych szkoleniowych dla modeli VLM przy zachowaniu wydajności poprzez analizę nadmiarowości danych, udoskonalenie metod destylacji zbiorów danych multimodalnych oraz porównanie strategii szkoleniowych oszczędzających dane pod kątem generalizacji, odporności i sprawiedliwości, szczególnie w zastosowaniach opartych na niewielkich ilościach danych, takich jak obrazowanie medyczne. Projekt DeTAI będzie wspierać odpowiedzialne badania nad modelami podstawowymi, zwłaszcza na rzecz społeczności dysponujących ograniczonymi zasobami.

Cel

Artificial intelligence (AI) has become integral to modern life, with applications ranging from healthcare, medical diagnostics to cultural heritage preservation. Recent progress in foundation models, notably vision-language models (VLMs) and multimodal large language models, has demonstrated remarkable capabilities across diverse tasks. Yet, their training and deployment demand enormous computational resources, creating significant environmental costs and limiting accessibility. Current research emphasises scaling models and datasets to boost performance, but comparatively little attention is given to the usage efficiency and quality of the underlying data. A key question arises: must we always rely on all available data, or can similar performance be achieved with substantially less data, thereby reducing costs and environmental impact?
This proposal, DeTAI, addresses this challenge by improving data efficiency in VLM training. The project targets a 50% reduction in data volume while maintaining performance within 2% of standard benchmarks. DeTAI introduces a unified framework for analysing data redundancy through insights into VLM learning dynamics, enabling principled selection and generation of high-quality data. Redundancy quantification will inform the design of multimodal dataset distillation methods that exploit model learning patterns. The project will conduct comprehensive benchmarking of data-efficient training strategies, including evaluations of generalisation, robustness and fairness in low-data regimes such as medical image analysis.
By advancing state of the art in data-efficient VLM training, DeTAI promotes sustainable AI development and reliable deployment. It democratises access to foundation model research, particularly for under-resourced groups. Beyond its scientific contributions, DeTAI will strengthen the fellow’s expertise in AI and project leadership, consolidating the position as an emerging leader in efficient and responsible AI.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2025-PF

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

UNIVERSITY OF BATH
Wkład UE netto
€ 260 347,92
Adres
CLAVERTON DOWN
BA2 7AY BATH
Zjednoczone Królestwo
Region
South West (England) Gloucestershire, Wiltshire and Bristol/Bath area Bath and North East Somerset, North Somerset and South Gloucestershire
Rodzaj działalności
Higher or Secondary Education Establishments
Linki
Koszt całkowity
Brak danych