Projektbeschreibung
Cloudbasierte, plattformunabhängige Verteidigungsumgebung für KI-Anwendungen
Böswillige Handlungen und feindliche Angriffe sind große Bedrohungen für KI-Anwendungen und -Operationen, sodass innovative Lösungen für den Schutz von KI von kritischer Bedeutung sind. Im Rahmen des EU-finanzierten Projekts cPAID soll eine cloudbasierte, plattformunabhängige Verteidigungsumgebung erforscht, gestaltet und entwickelt werden, um KI-Anwendungen und -Operationen vor diesen Angriffen zu schützen. Das Team befasst sich mit KI-basierten Verteidigungsmethoden für feindliche Angriffe wie Poisoning und Evasion und stellt dabei die Einhaltung der EU-Grundsätze zu KI-Ethik sicher. Zusätzlich wird die Leistung des KI-Systems in realen Szenarien validiert und die Forschung zu Zertifizierungssystemen gefördert, über die Robustheit, Sicherheit, Datenschutz und die ethische Integrität von KI-Anwendungen und -Systemen zertifiziert werden.
Ziel
cPAID envisions researching, designing, and developing a cloud-based platform-agnostic defense framework for the holistic protection of AI applications and the overall AI operations of organizations against malicious actions and adversarial attacks. cPAID aims at tackling both poisoning and evasion adversarial attacks by combining AI-based defense methods (e.g. life-long semi-supervised reinforcement learning, transfer learning, feature reduction, adversarial training), security- and privacy-by-design, privacy-preserving, explainable AI (XAI), Generative AI, context-awareness as well as risk and vulnerability assessment and threat intelligence of AI systems. cPAID will identify guidelines to a) guarantee security- and privacy-by-design in the design and development of AI applications, b) thoroughly assess the robustness and resiliency of ML and DL algorithms against adversarial attacks, c) ensure that EU principles for AI ethics have been considered, and d) validate the performance of AI systems in real-life use case scenarios. The identified guidelines aspire to promote research toward developing certification schemes that will certify the robustness, security, privacy, and ethical excellence of AI applications and systems.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht.
- NaturwissenschaftenInformatik und Informationswissenschaftenkünstliche Intelligenzmaschinelles LernenLerntransfer
- NaturwissenschaftenInformatik und Informationswissenschaftenkünstliche Intelligenzmaschinelles LernenVerstärkungslernen
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Programm/Programme
Aufforderung zur Vorschlagseinreichung
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordinator
8070 Bertrange
Luxemburg
Auf der Karte ansehen
Beteiligte (17)
Rechtsträger, der nicht Auftragnehmer ist und an einen Teilnehmer angegliedert oder rechtlich mit diesem verbunden ist. Der Rechtsträger übernimmt Arbeiten zu in der Finanzhilfevereinbarung festgelegten Bedingungen, liefert Waren oder bietet Dienstleistungen für die Aktion, unterzeichnet jedoch nicht die Finanzhilfevereinbarung. Eine Drittpartei hält sich an die Regeln, die gemäß der Finanzhilfevereinbarung für den verbundenen Teilnehmer gelten hinsichtlich der Förderfähigkeit von Kosten und der Kontrolle der Ausgaben.
176 71 Athina
Auf der Karte ansehen
041386 BUCURESTI
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
02-326 WARSZAWA
Auf der Karte ansehen
3013 Limassol
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
46022 Valencia
Auf der Karte ansehen
10612 Tallinn
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
28050 MADRID
Auf der Karte ansehen
71004 Heraklion
Auf der Karte ansehen
71110 Irakleio
Auf der Karte ansehen
38106 Braunschweig
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
1050 Bruxelles / Brussel
Auf der Karte ansehen
3071 Limassol
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
714 14 GAZI
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
A91 RW26 DUNDALK CO LOUTH
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
7491 Trondheim
Auf der Karte ansehen
43124 Parma
Auf der Karte ansehen
1700 SOFIA
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).