Descripción del proyecto
Garantizar que nuestros datos privados sigan siendo privados
Nuestro historial de navegación no es privado. Los gigantes de internet recopilan enormes cantidades de datos. Sin embargo, las normas de protección de datos de la Unión Europea garantizan la protección de nuestros datos personales cada vez que son recopilados. Para mejorar la privacidad en la era digital, el proyecto financiado con fondos europeos PRIMAL acelerará la práctica de la computación segura. La primera tarea consistirá en la clasificación privada (en la que una parte posee un modelo entrenado en un conjunto de datos sensibles y la otra, una muestra privada, sobre la que quiere evaluar el modelo) y la segunda abarca el aprendizaje federado que facilita que miles de participantes entrenen una red neuronal sobre datos conjuntos. En concreto, el proyecto mejorará determinados componentes básicos criptográficos y los aplicará a esas aplicaciones.
Objetivo
Machine learning algorithms are data-hungry, and perform better when exposed to more and more data. Such data is being collected in massive amounts by internet giants, and is often sensitive and private. Examples include the purchases and browsing history of users, their health data and exercise activity, locations they travel to and messages they type into their mobile phone. The amount of data being collected can be significantly reduced using cryptographic techniques, in particular, using secure multiparty computation. Secure computation enables mutually distrustful parties to compute a joint function of their inputs without revealing the inputs to one another.
In this research, we will address secure computation techniques of machine learning tasks. The first task is private classification: One party holds a model trained on a sensitive dataset, and another party holds a sample and wishes to evaluate the model on that private sample. Our objective is to fulfill this task while achieving significantly stronger security notion than previous works, that is, security even if one of the parties deviates from the protocol specifications (malicious security). The second task is federated learning, a techniques that enables thousands of participants to train a neural network on their joint data but without revealing the data to one another. However, a recent work showed that such task is susceptible to injection of backdoors, and a user can manipulate the joint model to his/her own benefit, significantly reducing the usefulness of federated learning in practice. Our objective is to guarantee immunity to such injections. The two objectives will be achieved by improving specific cryptographic building blocks, and applying them for these applications.
PRIMAL will speed up secure computation in practice, and carries immense potential to enhance privacy in the digital era.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
- ciencias naturalesinformática y ciencias de la informacióninternet
- humanidadeshistoria y arqueologíahistoria
- ingeniería y tecnologíaingeniería eléctrica, ingeniería electrónica, ingeniería de la informacióningeniería de la informacióntelecomunicaciónteléfono móvil
- ciencias naturalesinformática y ciencias de la informacióninteligencia artificialaprendizaje automático
- ciencias naturalesinformática y ciencias de la informacióninteligencia artificialinteligencia computacional
Para utilizar esta función, debe iniciar sesión o registrarse
Palabras clave
Programa(s)
Régimen de financiación
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Coordinador
52900 Ramat Gan
Israel