Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

TRUstworthy huMAN-centric artificial intelligence

Descripción del proyecto

Creación de sistemas de inteligencia artificial seguros y justos para la industria y otros sectores

En los últimos años, los avances en inteligencia artificial (IA) han beneficiado a la mayoría de las industrias, impulsando conocimientos y avances clave en sectores como la sanidad, el transporte, las finanzas y la fabricación. El proyecto TRUMAN, financiado con fondos europeos, pretende desarrollar metodologías y tecnologías genéricas que mejoren la resiliencia de los sistemas de IA frente a las amenazas a la privacidad, la equidad y la seguridad, a la vez que aumentan la confianza de los usuarios. Para lograrlo, la investigación se centrará en grandes modelos lingüísticos, aprendizaje continuo y aprendizaje y representación de grafos de conocimiento, desarrollando soluciones adaptadas a diversos escenarios.

Objetivo

Artificial Intelligence (AI) has become the main driver of growth in information technology, touching all sectors in the industry, ranging from healthcare, to finance, and transport. The goal of TRUMAN is to design and develop generic technologies and methodologies for improving AI systems’ resilience against security, privacy, and fairness attacks, as well as to increase the trust that their users have in these systems, while accounting for different phases of the AI life cycle, starting from data collection through training and deployment. TRUMAN will encompass three major AI architectures: knowledge graph (KG) representation and learning, continual learning, and large language models (LLMs). These three approaches will be investigated with the goal of designing solutions aimed for scenarios involving dynamic data collection, distributed model training, and scenarios that involve human-in-the-loop (HITL) design principles. TRUMAN will develop customized robustness solutions for both existing and newly developed privacy, adversarial, and fairness attacks. The project will also consider the impact of these solutions on humans, how to explain to them the underlying technologies and the risks, and employ their help in the improvement of these models. These technologies will be evaluated against four use cases illustrating scenarios from different sectors, i.e. marketing, IT, finance, and healthcare. Moreover, the TRUMAN project will strive to generate generic/holistic guidelines and recommendations for building trustworthy and robust AI systems.

Ámbito científico (EuroSciVoc)

Este proyecto aún no se ha clasificado con EuroSciVoc.
Sugiera los ámbitos científicos que considere más relevantes y ayúdenos a mejorar nuestro servicio de clasificación.

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-RIA - HORIZON Research and Innovation Actions

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-CL4-2024-HUMAN-03

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

EURECOM GIE
Aportación neta de la UEn
€ 706 910,00
Dirección
ROUTE DES CHAPPES 450 CAMPUS SOPHIA ANTIPOLIS
06410 Biot
Francia
Región
Provence-Alpes-Côte d’Azur Provence-Alpes-Côte d’Azur Alpes-Maritimes
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
€ 706 910,00

Participantes (10)

Socios (1)