Private Machine Learning

Información del proyecto

PRIMAL

Identificador del acuerdo de subvención: 891234

DOI

10.3030/891234

Proyecto cerrado

Fecha de la firma de la CE 3 Abril 2020

Fecha de inicio 1 Junio 2020

Fecha de finalización 28 Febrero 2024

Financiado con arreglo a

• EXCELLENT SCIENCE - Marie Skłodowska-Curie Actions

Coste total

€ 185 464,32

Aportación de la UE

€ 185 464,32

Coordinado por

BAR ILAN UNIVERSITY
Israel

Descripción del proyecto

Garantizar que nuestros datos privados sigan siendo privados

Nuestro historial de navegación no es privado. Los gigantes de internet recopilan enormes cantidades de datos. Sin embargo, las normas de protección de datos de la Unión Europea garantizan la protección de nuestros datos personales cada vez que son recopilados. Para mejorar la privacidad en la era digital, el proyecto financiado con fondos europeos PRIMAL acelerará la práctica de la computación segura. La primera tarea consistirá en la clasificación privada (en la que una parte posee un modelo entrenado en un conjunto de datos sensibles y la otra, una muestra privada, sobre la que quiere evaluar el modelo) y la segunda abarca el aprendizaje federado que facilita que miles de participantes entrenen una red neuronal sobre datos conjuntos. En concreto, el proyecto mejorará determinados componentes básicos criptográficos y los aplicará a esas aplicaciones.

Objetivo

Machine learning algorithms are data-hungry, and perform better when exposed to more and more data. Such data is being collected in massive amounts by internet giants, and is often sensitive and private. Examples include the purchases and browsing history of users, their health data and exercise activity, locations they travel to and messages they type into their mobile phone. The amount of data being collected can be significantly reduced using cryptographic techniques, in particular, using secure multiparty computation. Secure computation enables mutually distrustful parties to compute a joint function of their inputs without revealing the inputs to one another.

In this research, we will address secure computation techniques of machine learning tasks. The first task is private classification: One party holds a model trained on a sensitive dataset, and another party holds a sample and wishes to evaluate the model on that private sample. Our objective is to fulfill this task while achieving significantly stronger security notion than previous works, that is, security even if one of the parties deviates from the protocol specifications (malicious security). The second task is federated learning, a techniques that enables thousands of participants to train a neural network on their joint data but without revealing the data to one another. However, a recent work showed that such task is susceptible to injection of backdoors, and a user can manipulate the joint model to his/her own benefit, significantly reducing the usefulness of federated learning in practice. Our objective is to guarantee immunity to such injections. The two objectives will be achieved by improving specific cryptographic building blocks, and applying them for these applications.

PRIMAL will speed up secure computation in practice, and carries immense potential to enhance privacy in the digital era.

Ámbito científico (EuroSciVoc)

• ciencias naturales › informática y ciencias de la información › internet
• humanidades › historia y arqueología › historia
• ingeniería y tecnología › ingeniería eléctrica, ingeniería electrónica, ingeniería de la información › ingeniería de la información › telecomunicación › teléfono móvil
• ciencias naturales › informática y ciencias de la información › inteligencia artificial › aprendizaje automático
• ciencias naturales › informática y ciencias de la información › inteligencia artificial › inteligencia computacional

Palabras clave

• privacy-preserving machine learning
• cryptography
• machine learning

Programa(s)

• H2020-EU.1.3. - EXCELLENT SCIENCE - Marie Skłodowska-Curie Actions PROGRAMA PRINCIPAL
  
• H2020-EU.1.3.2. - Nurturing excellence by means of cross-border and cross-sector mobility
  

Tema(s)

• MSCA-IF-2019 - Individual Fellowships
  

Régimen de financiación

MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)

Convocatoria de propuestas

H2020-MSCA-IF-2019

Coordinador

BAR ILAN UNIVERSITY

• Aportación neta de la UEn: € 185 464,32
• Dirección: BAR ILAN UNIVERSITY CAMPUS ; 52900 Ramat Gan ; Israel
• Tipo de actividad: Higher or Secondary Education Establishments
• Coste total: € 185 464,32