Opis projektu
Bezpieczna przyszłość generatywnej sztucznej inteligencji
Wraz z popularyzacją generatywnej sztucznej inteligencji rośnie ryzyko z punktu widzenia cyberbezpieczeństwa. Duże modele językowe mogą być manipulowane w celu ekstrakcji danych, a także atakowane, narażając użytkowników i firmy na poważne zagrożenia. Zespół finansowanego ze środków Europejskiej Rady ds. Innowacji projektu NeuralTrust ma na celu opracowanie platformy cyberbezpieczeństwa zaprojektowanej z myślą o generatywnej sztucznej inteligencji. Platforma łączy w sobie trzy warstwy ochrony - bezpieczną bramę blokującą ataki w czasie rzeczywistym, mechanizm wykrywania luk w zabezpieczeniach poprzez symulowane ataki oraz narzędzia obserwacyjne do monitorowania zachowania sztucznej inteligencji zapewniający identyfikowalność. W przeciwieństwie do istniejących rozwiązań, platforma NeuralTrust zabezpiecza cały ruch związany ze sztuczną inteligencją na szczeblu infrastruktury, chroniąc całe systemy. Nadrzędnym celem projektu jest sprawienie, by nowa technologia stała się standardem bezpiecznego i przejrzystego wdrażania sztucznej inteligencji.
Cel
NeuralTrust is a pioneering company in cybersecurity for Generative AI, addressing the multifaceted risks associated with this rapidly evolving technology. Our mission is to ensure the safe, reliable, and measurable deployment of Generative AI, protecting system integrity and user trust. Our vision is to lead the cybersecurity landscape in the Generative AI era by providing robust security measures, real-time monitoring, and regulatory compliance to safeguard against misuse and vulnerabilities. The company tackles significant challenges posed by Large Language Models (LLMs), such as security vulnerabilities, functional failures, privacy breaches, responsibility failures, and availability attacks. NeuralTrust's innovative solution is a holistic cybersecurity platform with three interconnected modules: Secure AI Gateway for real-time attack blocking and service scaling, Algorithmic Red Teaming for targeted attacks to identify vulnerabilities, and Observability for real-time AI behavior analysis and full traceability. This ensures NeuralTrust can address the full spectrum of risks associated with Generative AI. The value proposition lies in its ability to provide comprehensive security for multi-turn conversations, multi-modal interactions, and contextual security, outperforming market alternatives in public benchmarks. Unlike competing guardrail solutions that analyze prompts in isolation and are embedded within individual applications, NeuralTrust is the first to secure all LLM traffic at the infrastructure level while analyzing contextual user behavior – enabled by its pioneering LLM gateway architecture. NeuralTrust's platform covers pentesting, blocking, detection, monitoring, analytics, and compliance, setting it apart from competitors focusing on narrower security aspects. The Generative AI cybersecurity market is projected to grow significantly, and NeuralTrust is well-positioned to address this critical gap with its comprehensive security solution.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Program(-y)
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
-
HORIZON.3.1 - The European Innovation Council (EIC)
GŁÓWNY PROGRAM
Wyświetl wszystkie projekty finansowane w ramach tego programu
Temat(-y)
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
System finansowania
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
HORIZON-EIC-ACC - HORIZON EIC Accelerator
Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania
Zaproszenie do składania wniosków
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
(odnośnik otworzy się w nowym oknie) HORIZON-EIC-2025-ACCELERATOR-02
Wyświetl wszystkie projekty finansowane w ramach tego zaproszeniaKoordynator
Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.
08018 Barcelona
Hiszpania
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.