Projektbeschreibung
Aufbau sicherer und fairer KI-Systeme – für die Industrie und darüber hinaus
In den letzten Jahren waren die Fortschritte in der KI für die meisten Branchen von Nutzen. Sie führten zu wichtigen Erkenntnissen und Durchbrüchen in Bereichen wie dem Gesundheitswesen, dem Transportwesen, dem Finanzwesen und der Fertigung. Das EU-finanzierte Projekt TRUMAN zielt darauf ab, generische Methoden und Technologien zu entwickeln, um die Widerstandsfähigkeit von KI-Systemen gegen Bedrohungen der Privatsphäre, der Fairness und der Sicherheit zu erhöhen und gleichzeitig das Vertrauen der Nutzenden zu stärken. Zur Erreichung dieses Ziels wird sich die Forschung auf große Sprachmodelle, kontinuierliches Lernen sowie das Lernen und die Darstellung von Wissensgraphen konzentrieren. So werden Lösungen entwickelt, die auf verschiedene Szenarien zugeschnitten sind.
Ziel
Artificial Intelligence (AI) has become the main driver of growth in information technology, touching all sectors in the industry, ranging from healthcare, to finance, and transport. The goal of TRUMAN is to design and develop generic technologies and methodologies for improving AI systems’ resilience against security, privacy, and fairness attacks, as well as to increase the trust that their users have in these systems, while accounting for different phases of the AI life cycle, starting from data collection through training and deployment. TRUMAN will encompass three major AI architectures: knowledge graph (KG) representation and learning, continual learning, and large language models (LLMs). These three approaches will be investigated with the goal of designing solutions aimed for scenarios involving dynamic data collection, distributed model training, and scenarios that involve human-in-the-loop (HITL) design principles. TRUMAN will develop customized robustness solutions for both existing and newly developed privacy, adversarial, and fairness attacks. The project will also consider the impact of these solutions on humans, how to explain to them the underlying technologies and the risks, and employ their help in the improvement of these models. These technologies will be evaluated against four use cases illustrating scenarios from different sectors, i.e. marketing, IT, finance, and healthcare. Moreover, the TRUMAN project will strive to generate generic/holistic guidelines and recommendations for building trustworthy and robust AI systems.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
- Naturwissenschaften Informatik und Informationswissenschaften Software Anwendungssoftware Simulationssoftware
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.2.4 - Digital, Industry and Space
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen -
HORIZON.2.4.5 - Artificial Intelligence and Robotics
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-RIA - HORIZON Research and Innovation Actions
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-CL4-2024-HUMAN-03
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
06410 BIOT
Frankreich
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.