Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

ROBUSTIFYING GENERATIVE AI THROUGH HUMAN-CENTRIC INTEGRATION OF NEURAL AND SYMBOLIC METHODS

Description du projet

Une approche du développement de l’IA centrée sur l’humain

L’IA redessine la façon dont nous interagissons avec la technologie. Son véritable potentiel réside toutefois dans la création de systèmes non seulement intelligents, mais également fiables et adaptables. Le projet ROBUSTIFAI, financé par l’UE, concentrera ses efforts sur la manière dont l’IA peut mieux comprendre et répondre aux besoins humains dans des environnements dynamiques. Au lieu de considérer l’IA comme un outil purement technique, ROBUSTIFAI l’abordera comme un système qui doit s’intégrer de manière homogène dans les contextes humains et sociétaux. Avec un budget de 9 millions EUR et 18 partenaires d’Europe et d’Inde, le projet repensera la conception et le déploiement de l’IA. Il établira une nouvelle norme pour le développement de l’IA, privilégiant les besoins humains, en combinant les approches neuronales et symboliques et en veillant à ce que les systèmes d’IA s’adaptent au changement.

Objectif

Generative AI (GenAI), such as foundation models, represents a powerful and transformative class of AI capable of learning patterns from data and generating new content. However, GenAI has notable shortcomings that can lead to misuse or hinder its widespread adoption and positive societal and economic impact. These shortcomings stem from its lack of robustness in three key areas: technical, operational, and user robustness. Addressing these challenges in foundation models, especially in the context of human cyber-physical systems (HCPS)—the most demanding GenAI applications in terms of robustness—will pave the way for solutions applicable across various domains, unlocking GenAI's full potential.Building on the EU’s competitiveness in constructing and assuring dependable complex systems, RobustifAI, a 3-year project with a budget around €9M, brings together 18 leading partners spread over 10 EU countries but also Switzerland and India, to tackle the above three-dimensional robustness challenge in GenAI systems. We aim to make a step change to the existing GenAI system development paradigm by developing and promoting a rigorous design and deployment methodology for building robust GenAI systems. The methodology is based on the following three orthogonal innovative axes: (1) techniques to understand, express, and embed human-centric needs within the neural model, (2) principled methods for integrating neural models and symbolic techniques, and (3) enabling the adaptivity of GenAI systems to environmental changes and user variations.
RobustifAI will actively contribute to on-going EU initiatives on AI, such as the AI-BOOST project on AI challenges and other EU projects on AI efficiency, autonomous vehicles, or service robots. Its successful execution will secure for the EU a distinct and leading position in more sustainable and socially beneficial AI advancements, and strengthen EU’s vision that technical advances and societal benefits can be achieved simultaneously.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-RIA - HORIZON Research and Innovation Actions

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-CL4-2024-HUMAN-03

Voir tous les projets financés au titre de cet appel

Coordinateur

THE UNIVERSITY OF LIVERPOOL
Contribution nette de l'UE
€ 783 845,00
Adresse
BROWNLOW HILL 765 FOUNDATION BUILDING
L69 7ZX LIVERPOOL
Royaume-Uni
Région
North West (England) Merseyside Liverpool
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
€ 783 845,00

Participants (15)

Partenaires (3)