Projektbeschreibung
Quantensichere Protokolle für eine datenschutzfreundliche KI
Da KI-Systeme immer leistungsfähiger werden und immer weitere Verbreitung finden, läuft die Berechnung verstärkt über verschiedene Geräte, Einrichtungen und Cloud-Plattformen ab. In vielen Fällen sind die Daten bei einer einzigen Partei gespeichert, während das KI-Modell von einer anderen Partei stammt, was zu großen Herausforderungen in Bezug auf den Schutz und die Sicherheit der Daten führt. Mit Unterstützung durch das Marie-Skłodowska-Curie-Maßnahmenprogramm soll das QSDL-Projekt diese Herausforderung angehen, indem ein praktisches Protokoll für informationstheoretisch sichere KI-Berechnungen entwickelt wird. Durch die Nutzung der Quanteneigenschaften des Lichts und die Verwendung herkömmlicher Telekommunikationskomponenten bleiben sowohl die sensiblen Daten der Kundschaft wie auch die urheberrechtlich geschützten KI-Modelle der Server geschützt, da strenge Grenzen für das Entweichen von Informationen festgelegt werden und gleichzeitig eine hohe Genauigkeit beibehalten wird. Das Protokoll wird an realen Geräten demonstriert und ebnet den Weg für datenschutzfreundliche Anwendungen im Gesundheitswesen und bei der Nutzung von KI-Ergebnissen.
Ziel
Deep Neural Networks (DNNs) have sparked a revolution across multiple domains. However, the escalating computational demands of advanced DNNs have led to the need for high-power consumption accelerators, which hinders their deployment on low-power devices. To enable advanced DNNs on such devices, the industry has resorted to offloading computationally intensive DNN inference to cloud servers. Nevertheless, this offloading architecture introduces vulnerabilities that compromise data security, presenting a pressing challenge, particularly in AI applications where data privacy is essential.
In response, I propose a pioneering approach that harnesses the quantum nature of light to establish a practical paradigm for information-theoretically secure deep learning, where clients safeguard their sensitive data, and servers protect their proprietary AI models. This project delves into information science, aiming to explore theoretically and experimentally whether quantum science can offer practical advantages in privacy-preserving inner products against limited adversaries. The innovative essence of this proposal lies in the demonstration of quantum private deep learning in Prof. Englund's lab at MIT, utilizing an optical network. The experimental validation of the protocol with real-life healthcare devices in collaboration with Prof. Katz (HUJI) will unlock a new era of machine learning applications, including the secure utilization of AI in healthcare (e.g. IBM's Watson, Aidoc’s aiOS) and AI assistance (e.g. ChatGPT, Bard). This work may also reshape regulations like the EU General Data Protection Regulation.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Die Klassifikation dieses Projekts wurde von Menschen validiert.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Die Klassifikation dieses Projekts wurde von Menschen validiert.
- Naturwissenschaften Informatik und Informationswissenschaften Computersicherheit Datenschutz
- Technik und Technologie Elektrotechnik, Elektronik, Informationstechnik Elektrotechnik Hardware Quantencomputer
- Naturwissenschaften Informatik und Informationswissenschaften künstliche Intelligenz maschinelles Lernen Deep Learning
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2024-PF-01
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
91904 Jerusalem
Israel
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.