Projektbeschreibung
Die Zukunft der generativen KI sichern
Da generative KI in allen Bereichen Einzug hält, wächst auch das Risiko für die Cybersicherheit rapide. Große Sprachmodelle können manipuliert werden, Daten verlieren oder bei Angriffen versagen. Dadurch werden Nutzende und Unternehmen ernsthaften Bedrohungen ausgesetzt. Das EIC-finanzierte Projekt NeuralTrust will eine speziell für generative KI konzipierte Cybersicherheitsplattform entwickeln. Es kombiniert drei Schutzebenen: ein sicheres KI-Gateway, um Echtzeitangriffe zu blockieren; KI-Red-Teaming, um durch simulierte Angriffe Schwachstellen zu erkennen; und Beobachtungstools, um das KI-Verhaltens zu überwachen und die Rückverfolgbarkeit zu gewährleisten. Im Gegensatz zu bestehenden Lösungen sichert NeuralTrust den gesamten KI-Datenverkehr auf der Infrastrukturebene und schützt somit ganze Systeme. Das übergeordnete Ziel des Projekts besteht darin, diese neue Technologie als Standard für den sicheren und transparenten Einsatz von KI zu etablieren.
Ziel
NeuralTrust is a pioneering company in cybersecurity for Generative AI, addressing the multifaceted risks associated with this rapidly evolving technology. Our mission is to ensure the safe, reliable, and measurable deployment of Generative AI, protecting system integrity and user trust. Our vision is to lead the cybersecurity landscape in the Generative AI era by providing robust security measures, real-time monitoring, and regulatory compliance to safeguard against misuse and vulnerabilities. The company tackles significant challenges posed by Large Language Models (LLMs), such as security vulnerabilities, functional failures, privacy breaches, responsibility failures, and availability attacks. NeuralTrust's innovative solution is a holistic cybersecurity platform with three interconnected modules: Secure AI Gateway for real-time attack blocking and service scaling, Algorithmic Red Teaming for targeted attacks to identify vulnerabilities, and Observability for real-time AI behavior analysis and full traceability. This ensures NeuralTrust can address the full spectrum of risks associated with Generative AI. The value proposition lies in its ability to provide comprehensive security for multi-turn conversations, multi-modal interactions, and contextual security, outperforming market alternatives in public benchmarks. Unlike competing guardrail solutions that analyze prompts in isolation and are embedded within individual applications, NeuralTrust is the first to secure all LLM traffic at the infrastructure level while analyzing contextual user behavior – enabled by its pioneering LLM gateway architecture. NeuralTrust's platform covers pentesting, blocking, detection, monitoring, analytics, and compliance, setting it apart from competitors focusing on narrower security aspects. The Generative AI cybersecurity market is projected to grow significantly, and NeuralTrust is well-positioned to address this critical gap with its comprehensive security solution.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.3.1 - The European Innovation Council (EIC)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-EIC-ACC - HORIZON EIC Accelerator
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-EIC-2025-ACCELERATOR-02
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
08018 Barcelona
Spanien
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.