Description du projet
Assurer l’avenir de l’IA générative
À mesure que l’IA générative s’intègre à tout, les risques de cybersécurité augmentent rapidement. Les grands modèles de langage (GML) peuvent être manipulés, laisser échapper des données ou échouer en cas d’attaque, exposant ainsi les utilisateurs et les entreprises à de graves menaces. Le projet NeuralTrust, financé par le CEI, vise à développer une plateforme de cybersécurité conçue spécifiquement pour l’IA générative. Il combine trois couches de protection: une passerelle d’IA sécurisée pour bloquer les attaques en temps réel, une équipe rouge d’IA pour détecter les vulnérabilités grâce à des attaques simulées, et des outils d’observabilité pour surveiller le comportement de l’IA et en assurer la traçabilité. Contrairement aux solutions existantes, NeuralTrust sécurise l’ensemble du trafic de l’IA au niveau de l’infrastructure, protégeant ainsi des systèmes entiers. L’objectif principal du projet est que cette nouvelle technologie devienne la norme pour le déploiement sûr et transparent de l’IA.
Objectif
NeuralTrust is a pioneering company in cybersecurity for Generative AI, addressing the multifaceted risks associated with this rapidly evolving technology. Our mission is to ensure the safe, reliable, and measurable deployment of Generative AI, protecting system integrity and user trust. Our vision is to lead the cybersecurity landscape in the Generative AI era by providing robust security measures, real-time monitoring, and regulatory compliance to safeguard against misuse and vulnerabilities. The company tackles significant challenges posed by Large Language Models (LLMs), such as security vulnerabilities, functional failures, privacy breaches, responsibility failures, and availability attacks. NeuralTrust's innovative solution is a holistic cybersecurity platform with three interconnected modules: Secure AI Gateway for real-time attack blocking and service scaling, Algorithmic Red Teaming for targeted attacks to identify vulnerabilities, and Observability for real-time AI behavior analysis and full traceability. This ensures NeuralTrust can address the full spectrum of risks associated with Generative AI. The value proposition lies in its ability to provide comprehensive security for multi-turn conversations, multi-modal interactions, and contextual security, outperforming market alternatives in public benchmarks. Unlike competing guardrail solutions that analyze prompts in isolation and are embedded within individual applications, NeuralTrust is the first to secure all LLM traffic at the infrastructure level while analyzing contextual user behavior – enabled by its pioneering LLM gateway architecture. NeuralTrust's platform covers pentesting, blocking, detection, monitoring, analytics, and compliance, setting it apart from competitors focusing on narrower security aspects. The Generative AI cybersecurity market is projected to grow significantly, and NeuralTrust is well-positioned to address this critical gap with its comprehensive security solution.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. Voir: Le vocabulaire scientifique européen.
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Mots‑clés
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.3.1 - The European Innovation Council (EIC)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-EIC-ACC - HORIZON EIC Accelerator
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) HORIZON-EIC-2025-ACCELERATOR-02
Voir tous les projets financés au titre de cet appelCoordinateur
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
08018 Barcelona
Espagne
L’entreprise s’est définie comme une PME (petite et moyenne entreprise) au moment de la signature de la convention de subvention.
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.