Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Data-efficient model training for sustainable artificial intelligence

Descripción del proyecto

Uso eficiente de los datos en el entrenamiento de modelos de visión y lenguaje

La inteligencia artificial (IA) tiene una gran importancia para aplicaciones en los ámbitos de la asistencia sanitaria, el diagnóstico médico y el patrimonio cultural. Los recientes avances en los modelos fundacionales, incluidos los modelos de visión y lenguaje (VLM, por sus siglas en inglés), han puesto de manifiesto sus capacidades, pero su entrenamiento exige grandes recursos computacionales, lo que aumenta su coste ambiental y limita su accesibilidad. En DeTAI se abordarán estas limitaciones investigando si es posible alcanzar un rendimiento similar con una cantidad de datos considerablemente menor. En el proyecto DeTAI, respaldado por las acciones Marie Skłodowska-Curie, se busca reducir a la mitad la cantidad de datos necesarios para entrenar VLM sin que disminuya su rendimiento. Para ello, se analizará la redundancia de los datos, se perfeccionarán los métodos de destilación de conjuntos de datos multimodales y se compararán distintas estrategias de entrenamiento eficiente en datos en términos de generalización, robustez y equidad, especialmente en aplicaciones con pocos datos disponibles, como las imágenes médicas. Esta iniciativa apoyará la investigación responsable sobre modelos fundacionales, sobre todo para las comunidades con escasos recursos.

Objetivo

Artificial intelligence (AI) has become integral to modern life, with applications ranging from healthcare, medical diagnostics to cultural heritage preservation. Recent progress in foundation models, notably vision-language models (VLMs) and multimodal large language models, has demonstrated remarkable capabilities across diverse tasks. Yet, their training and deployment demand enormous computational resources, creating significant environmental costs and limiting accessibility. Current research emphasises scaling models and datasets to boost performance, but comparatively little attention is given to the usage efficiency and quality of the underlying data. A key question arises: must we always rely on all available data, or can similar performance be achieved with substantially less data, thereby reducing costs and environmental impact?
This proposal, DeTAI, addresses this challenge by improving data efficiency in VLM training. The project targets a 50% reduction in data volume while maintaining performance within 2% of standard benchmarks. DeTAI introduces a unified framework for analysing data redundancy through insights into VLM learning dynamics, enabling principled selection and generation of high-quality data. Redundancy quantification will inform the design of multimodal dataset distillation methods that exploit model learning patterns. The project will conduct comprehensive benchmarking of data-efficient training strategies, including evaluations of generalisation, robustness and fairness in low-data regimes such as medical image analysis.
By advancing state of the art in data-efficient VLM training, DeTAI promotes sustainable AI development and reliable deployment. It democratises access to foundation model research, particularly for under-resourced groups. Beyond its scientific contributions, DeTAI will strengthen the fellow’s expertise in AI and project leadership, consolidating the position as an emerging leader in efficient and responsible AI.

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-MSCA-2025-PF

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

UNIVERSITY OF BATH
Aportación neta de la UEn
€ 260 347,92
Dirección
CLAVERTON DOWN
BA2 7AY BATH
Reino Unido
Región
South West (England) Gloucestershire, Wiltshire and Bristol/Bath area Bath and North East Somerset, North Somerset and South Gloucestershire
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
Sin datos