Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

TRUstworthy huMAN-centric artificial intelligence

Description du projet

Construire des systèmes d’IA sûrs et équitables pour l’industrie et au-delà

Ces dernières années, les progrès de l’IA ont profité à la plupart des industries, inaugurant des découvertes et des percées dans des secteurs tels que la santé, les transports, la finance et la fabrication. Le projet TRUMAN, financé par l’UE, se propose de développer des méthodologies et des technologies génériques qui améliorent la résilience des systèmes d’IA face aux menaces pesant sur la vie privée, l’équité et la sécurité, tout en renforçant la confiance des utilisateurs. Pour ce faire, la recherche se concentrera sur les grands modèles de langage, l’apprentissage continu, l’apprentissage et la représentation des graphes de connaissances, en développant des solutions adaptées à divers scénarios.

Objectif

Artificial Intelligence (AI) has become the main driver of growth in information technology, touching all sectors in the industry, ranging from healthcare, to finance, and transport. The goal of TRUMAN is to design and develop generic technologies and methodologies for improving AI systems’ resilience against security, privacy, and fairness attacks, as well as to increase the trust that their users have in these systems, while accounting for different phases of the AI life cycle, starting from data collection through training and deployment. TRUMAN will encompass three major AI architectures: knowledge graph (KG) representation and learning, continual learning, and large language models (LLMs). These three approaches will be investigated with the goal of designing solutions aimed for scenarios involving dynamic data collection, distributed model training, and scenarios that involve human-in-the-loop (HITL) design principles. TRUMAN will develop customized robustness solutions for both existing and newly developed privacy, adversarial, and fairness attacks. The project will also consider the impact of these solutions on humans, how to explain to them the underlying technologies and the risks, and employ their help in the improvement of these models. These technologies will be evaluated against four use cases illustrating scenarios from different sectors, i.e. marketing, IT, finance, and healthcare. Moreover, the TRUMAN project will strive to generate generic/holistic guidelines and recommendations for building trustworthy and robust AI systems.

Champ scientifique (EuroSciVoc)

Ce projet n'a pas encore été classé par EuroSciVoc.
Proposez les domaines scientifiques qui vous semblent les plus pertinents et aidez-nous à améliorer notre service de classification.

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-RIA - HORIZON Research and Innovation Actions

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-CL4-2024-HUMAN-03

Voir tous les projets financés au titre de cet appel

Coordinateur

EURECOM GIE
Contribution nette de l'UE
€ 706 910,00
Adresse
ROUTE DES CHAPPES 450 CAMPUS SOPHIA ANTIPOLIS
06410 Biot
France
Région
Provence-Alpes-Côte d’Azur Provence-Alpes-Côte d’Azur Alpes-Maritimes
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
€ 706 910,00

Participants (10)

Partenaires (1)