Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

TRUstworthy huMAN-centric artificial intelligence

Projektbeschreibung

Aufbau sicherer und fairer KI-Systeme – für die Industrie und darüber hinaus

In den letzten Jahren waren die Fortschritte in der KI für die meisten Branchen von Nutzen. Sie führten zu wichtigen Erkenntnissen und Durchbrüchen in Bereichen wie dem Gesundheitswesen, dem Transportwesen, dem Finanzwesen und der Fertigung. Das EU-finanzierte Projekt TRUMAN zielt darauf ab, generische Methoden und Technologien zu entwickeln, um die Widerstandsfähigkeit von KI-Systemen gegen Bedrohungen der Privatsphäre, der Fairness und der Sicherheit zu erhöhen und gleichzeitig das Vertrauen der Nutzenden zu stärken. Zur Erreichung dieses Ziels wird sich die Forschung auf große Sprachmodelle, kontinuierliches Lernen sowie das Lernen und die Darstellung von Wissensgraphen konzentrieren. So werden Lösungen entwickelt, die auf verschiedene Szenarien zugeschnitten sind.

Ziel

Artificial Intelligence (AI) has become the main driver of growth in information technology, touching all sectors in the industry, ranging from healthcare, to finance, and transport. The goal of TRUMAN is to design and develop generic technologies and methodologies for improving AI systems’ resilience against security, privacy, and fairness attacks, as well as to increase the trust that their users have in these systems, while accounting for different phases of the AI life cycle, starting from data collection through training and deployment. TRUMAN will encompass three major AI architectures: knowledge graph (KG) representation and learning, continual learning, and large language models (LLMs). These three approaches will be investigated with the goal of designing solutions aimed for scenarios involving dynamic data collection, distributed model training, and scenarios that involve human-in-the-loop (HITL) design principles. TRUMAN will develop customized robustness solutions for both existing and newly developed privacy, adversarial, and fairness attacks. The project will also consider the impact of these solutions on humans, how to explain to them the underlying technologies and the risks, and employ their help in the improvement of these models. These technologies will be evaluated against four use cases illustrating scenarios from different sectors, i.e. marketing, IT, finance, and healthcare. Moreover, the TRUMAN project will strive to generate generic/holistic guidelines and recommendations for building trustworthy and robust AI systems.

Wissenschaftliches Gebiet (EuroSciVoc)

Dieses Projekt wurde noch nicht bei EuroSciVoc klassifiziert.
Schlagen Sie die Wissenschaftsbereiche vor, die Ihrer Einschätzung nach besonders relevant sind, und helfen Sie uns, unseren Klassifizierungsdienst zu verbessern.

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-RIA - HORIZON Research and Innovation Actions

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-CL4-2024-HUMAN-03

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

EURECOM GIE
Netto-EU-Beitrag
€ 706 910,00
Adresse
ROUTE DES CHAPPES 450 CAMPUS SOPHIA ANTIPOLIS
06410 Biot
Frankreich
Region
Provence-Alpes-Côte d’Azur Provence-Alpes-Côte d’Azur Alpes-Maritimes
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 706 910,00

Beteiligte (10)

Partner (1)