Description du projet
S’assurer que nos données privées le restent
Nos historiques de navigation ne sont pas privés. D’énormes quantités de données sont collectées par les géants de l’Internet. Les règles de l’UE en matière de protection des données garantissent cependant la protection de nos données personnelles lors de leur collecte. Pour améliorer la confidentialité à l’ère numérique, le projet PRIMAL, financé par l’UE, accélérera le calcul sécurisé dans la pratique. Sa première tâche sera la classification privée (où une partie détient un modèle formé sur un ensemble de données sensibles et où une autre détient un échantillon et souhaite évaluer le modèle sur cet échantillon privé). La deuxième tâche couvre l’apprentissage fédéré qui permet à des milliers de participants de former un réseau neuronal sur des données communes. Plus précisément, le projet améliorera des blocs de construction cryptographiques spécifiques et les appliquera à ces applications.
Objectif
Machine learning algorithms are data-hungry, and perform better when exposed to more and more data. Such data is being collected in massive amounts by internet giants, and is often sensitive and private. Examples include the purchases and browsing history of users, their health data and exercise activity, locations they travel to and messages they type into their mobile phone. The amount of data being collected can be significantly reduced using cryptographic techniques, in particular, using secure multiparty computation. Secure computation enables mutually distrustful parties to compute a joint function of their inputs without revealing the inputs to one another.
In this research, we will address secure computation techniques of machine learning tasks. The first task is private classification: One party holds a model trained on a sensitive dataset, and another party holds a sample and wishes to evaluate the model on that private sample. Our objective is to fulfill this task while achieving significantly stronger security notion than previous works, that is, security even if one of the parties deviates from the protocol specifications (malicious security). The second task is federated learning, a techniques that enables thousands of participants to train a neural network on their joint data but without revealing the data to one another. However, a recent work showed that such task is susceptible to injection of backdoors, and a user can manipulate the joint model to his/her own benefit, significantly reducing the usefulness of federated learning in practice. Our objective is to guarantee immunity to such injections. The two objectives will be achieved by improving specific cryptographic building blocks, and applying them for these applications.
PRIMAL will speed up secure computation in practice, and carries immense potential to enhance privacy in the digital era.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN.
- sciences naturellesinformatique et science de l'informationinternet
- lettreshistoire et archéologiehistoire
- ingénierie et technologiegénie électrique, génie électronique, génie de l’informationingénierie de l’informationtélécommunicationtéléphone mobile
- sciences naturellesinformatique et science de l'informationintelligence artificielleapprentissage automatique
- sciences naturellesinformatique et science de l'informationintelligence artificielleintelligence de calcul
Vous devez vous identifier ou vous inscrire pour utiliser cette fonction
Programme(s)
Régime de financement
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Coordinateur
52900 Ramat Gan
Israël