Opis projektu
Zapewnianie prywatności prywatnych danych
Nasze historie przeglądania nie są prywatne, a każdego dnia internetowi giganci gromadzą nieprzebrane ilości danych. Przepisy UE dotyczące ochrony danych osobowych gwarantują jednak, że nasze dane gromadzone przez różne podmioty są należycie chronione. W celu zwiększenia ochrony prywatności w erze cyfrowej, uczestnicy finansowanego przez Unię Europejską projektu PRIMAL zamierzają przyspieszyć bezpieczne obliczenia. Pierwszym zadaniem badaczy będzie klasyfikacja prywatna (w przypadku której jedna ze stron posiada model przeszkolony na zestawie wrażliwych danych, natomiast druga strona dysponuje próbką i chce ocenić model na bazie tej próbki). Drugie zadanie obejmuje model połączonego uczenia, dzięki któremu tysiące uczestników będzie mogło wziąć udział w szkoleniu sieci neuronowych na podstawie wspólnych danych. Zespół projektu zamierza skupić się na usprawnieniu szeregu rozwiązań kryptograficznych, a następnie zastosowaniu ich w tych obszarach.
Cel
Machine learning algorithms are data-hungry, and perform better when exposed to more and more data. Such data is being collected in massive amounts by internet giants, and is often sensitive and private. Examples include the purchases and browsing history of users, their health data and exercise activity, locations they travel to and messages they type into their mobile phone. The amount of data being collected can be significantly reduced using cryptographic techniques, in particular, using secure multiparty computation. Secure computation enables mutually distrustful parties to compute a joint function of their inputs without revealing the inputs to one another.
In this research, we will address secure computation techniques of machine learning tasks. The first task is private classification: One party holds a model trained on a sensitive dataset, and another party holds a sample and wishes to evaluate the model on that private sample. Our objective is to fulfill this task while achieving significantly stronger security notion than previous works, that is, security even if one of the parties deviates from the protocol specifications (malicious security). The second task is federated learning, a techniques that enables thousands of participants to train a neural network on their joint data but without revealing the data to one another. However, a recent work showed that such task is susceptible to injection of backdoors, and a user can manipulate the joint model to his/her own benefit, significantly reducing the usefulness of federated learning in practice. Our objective is to guarantee immunity to such injections. The two objectives will be achieved by improving specific cryptographic building blocks, and applying them for these applications.
PRIMAL will speed up secure computation in practice, and carries immense potential to enhance privacy in the digital era.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
- nauki przyrodniczeinformatykainternet
- nauki humanistycznehistoria i archeologiahistoria
- inżynieria i technologiainżynieria elektryczna, inżynieria elektroniczna, inżynieria informatycznainżynieria informacyjnatelekomunikacjatelefony komórkowe
- nauki przyrodniczeinformatykasztuczna inteligencjauczenie maszynowe
- nauki przyrodniczeinformatykasztuczna inteligencjainteligencja obliczeniowa
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Program(-y)
Temat(-y)
System finansowania
MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)Koordynator
52900 Ramat Gan
Izrael