Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Secure Hardware and Software for AI systems

Opis projektu

Zaufana sztuczna inteligencja to bezpieczeństwo sprzętu i oprogramowania

SHASAI to finansowany przez UE projekt poświęcony badaniom i innowacjom, którego celem jest ochrona systemów sztucznej inteligencji przez cały cykl ich życia, a także eliminowanie luk w zabezpieczeniach zarówno sprzętu, jak i oprogramowania. Zespół opracowuje wielowarstwową strukturę zabezpieczeń obejmującą projektowanie, rozwój, wdrożenie i eksploatację. Prace wykorzystują metodologię bezpiecznego projektowania, ochronę łańcucha dostaw sztucznej inteligencji, testowanie kontradyktoryjne, inteligentne zapory sieciowe i ciągłą ocenę bezpieczeństwa. Zespół zajmuje się również zagrożeniami na poziomie sprzętu, takimi jak ataki typu side-channel i fault injection. Osadza też automatyczne kontrole bezpieczeństwa w procesach CI/CD i wykorzystuje platformy wirtualizacji do symulacji zagrożeń. W efekcie ma powstać solidna, adaptacyjna i niezawodna architektura bezpieczeństwa, która zapewni odporność, możliwość śledzenia i zgodność systemów SI ze zmieniającymi się standardami cyberbezpieczeństwa w środowiskach wysokiego ryzyka.

Cel

SHASAI targets the HW/SW security and AI-based high risk systems intersection, aiming to enhance the security, resilience, automated testing, and continuous assessment of AI systems. The rising interest in these systems makes them attractive targets for threat actors due to their complexity and valuable data. Ensuring the security of AI systems involves safeguarding AI models, datasets, dependencies, and securing the underlying HW/SW infrastructure.
SHASAI takes a holistic approach of AI system security throughout their lifecycle stages. At requirement definition, SHASAI provides an enhanced risk assessment methodology for secure and safe AI. At design, SHASAI will propose secure and safe design patterns at SW and HW level to achieve trustworthy AI systems. During implementation, SHASAI provides tooling for a secure supply chain of the system by analyzing vulnerabilities in SW / HW dependencies, detecting poisoned data and backdoors in pretrained models, scanning for software vulnerabilities, hardening hardware platforms, and safeguarding intellectual property. At evaluation, SHASAI offers a virtual testing platform with automated attack and defense test suites to assess security against AI and infrastructure-specific threats. In operation, AI-enhanced security services continuously monitor the system, detect anomalies, and mitigate attacks using AI firewalls and attestation methods, ensuring availability and integrity.
The feasibility of SHASAI methods and tools will be demonstrated in 3 real scenarios: 1. Agrifood industry: Cutting machines. 2. Health: Eye-tracking systems in augmentative and alternative communication. 3. Automotive: Tele-operated last mile delivery vehicle. Their heterogeneity and complementarity maximize the transferability of solutions.
SHASAI will contribute to scientific, techno-economic, and societal impacts as it aligns with the CRA, EU AI Act, NIS2 and CSA, sharing and commercializing methods and tools to ensure trustworthy AI components.

Dziedzina nauki (EuroSciVoc)

Program(-y)

Temat(-y)

System finansowania

HORIZON-IA - HORIZON Innovation Actions

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-CL3-2024-CS-01

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

IKERLAN S. COOP
Wkład UE netto
€ 976 077,00
Koszt całkowity
Brak danych

Uczestnicy (15)