Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Data-efficient model training for sustainable artificial intelligence

Projektbeschreibung

Dateneffizienz beim Training von Bildverarbeitungs- und Sprachmodellen

Künstliche Intelligenz (KI) spielt in der Gesundheitsversorgung, in der medizinischen Diagnostik und im Bereich des kulturellen Erbes eine wichtige Rolle. Jüngste Fortschritte bei Grundmodellen, darunter Bild-Sprach-Modelle, stellten deren Leistungsfähigkeit unter Beweis, doch ihr Training erfordert Rechenressourcen, wodurch die Umweltkosten erhöht und die Zugangsmöglichkeiten eingeschränkt werden. Das Team von DeTAI geht diese Herausforderung an und untersucht, ob eine ähnliche Leistung mit deutlich weniger Daten erreichbar ist. Die Arbeit des innerhalb der Marie-Skłodowska-Curie-Maßnahmen unterstützten Projekts DeTAI zielt darauf ab, den Bedarf an Trainingsdaten für Bild-Sprach-Modelle um die Hälfte zu reduzieren und gleichzeitig die Leistungseigenschaften beizubehalten. Dieses Ziel wird durch die Analyse von Datenredundanz, die Verbesserung von Methoden zur Destillation multimodaler Datensätze sowie den Vergleich dateneffizienter Trainingsstrategien hinsichtlich Generalisierbarkeit, Robustheit und Fairness, insbesondere in datenarmen Anwendungsbereichen wie der medizinischen Bildgebung, erreicht werden. Mit DeTAI wird verantwortungsvolle Forschung an Grundmodellen, insbesondere für ressourcenarme Gemeinschaften, unterstützt.

Ziel

Artificial intelligence (AI) has become integral to modern life, with applications ranging from healthcare, medical diagnostics to cultural heritage preservation. Recent progress in foundation models, notably vision-language models (VLMs) and multimodal large language models, has demonstrated remarkable capabilities across diverse tasks. Yet, their training and deployment demand enormous computational resources, creating significant environmental costs and limiting accessibility. Current research emphasises scaling models and datasets to boost performance, but comparatively little attention is given to the usage efficiency and quality of the underlying data. A key question arises: must we always rely on all available data, or can similar performance be achieved with substantially less data, thereby reducing costs and environmental impact?
This proposal, DeTAI, addresses this challenge by improving data efficiency in VLM training. The project targets a 50% reduction in data volume while maintaining performance within 2% of standard benchmarks. DeTAI introduces a unified framework for analysing data redundancy through insights into VLM learning dynamics, enabling principled selection and generation of high-quality data. Redundancy quantification will inform the design of multimodal dataset distillation methods that exploit model learning patterns. The project will conduct comprehensive benchmarking of data-efficient training strategies, including evaluations of generalisation, robustness and fairness in low-data regimes such as medical image analysis.
By advancing state of the art in data-efficient VLM training, DeTAI promotes sustainable AI development and reliable deployment. It democratises access to foundation model research, particularly for under-resourced groups. Beyond its scientific contributions, DeTAI will strengthen the fellow’s expertise in AI and project leadership, consolidating the position as an emerging leader in efficient and responsible AI.

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

UNIVERSITY OF BATH
Netto-EU-Beitrag
€ 260 347,92
Adresse
CLAVERTON DOWN
BA2 7AY BATH
Vereinigtes Königreich
Region
South West (England) Gloucestershire, Wiltshire and Bristol/Bath area Bath and North East Somerset, North Somerset and South Gloucestershire
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
Keine Daten