Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

PersonalAI: Efficient and Private Text Personalization with Large Language Models

Description du projet

Développer la personnalisation privée des GML open source

L’essor des grands modèles de langage (GML) crée un conflit entre fonctionnalité et confidentialité, car les utilisateurs doivent partager des données sensibles avec des tiers. Une étude de PanzaMail a montré que l’affinage des modèles à partir de 50 à 100 e-mails pouvait reproduire le style d’écriture d’un utilisateur, tandis que la méthode RoSA facilite la personnalisation en diminuant de plus de 90 % la puissance de calcul. Le projet PersonalAI, financé par le CER, développera une personnalisation privée et embarquée des GML open source. Il s’appuie sur un système qui gère la complexité des requêtes, traite les tâches simples en local, expurge les données sensibles, et personnalise à nouveau les résultats. Destiné au marché européen de l’IA, il garantira la confidentialité des données et la conformité au RGPD tout en permettant aux utilisateurs de conserver la propriété de leurs données et d’accéder à des capacités avancées de génération de texte.

Objectif

The rapid adoption of Large Language Models (LLMs) for text generation has created a critical tension between functionality and privacy: while users increasingly rely on services like ChatGPT for personal and business communications, such cloud-based systems require surrendering control of sensitive data to third-party companies, often outside EU jurisdiction. The PersonalAI project addresses this fundamental challenge by enabling fully private, on-device personalization of open-source LLMs, leveraging breakthrough compression and fine-tuning techniques developed in the PI's ERC Starting Grant ScaleML project. Our preliminary PanzaMail study showed that models fine-tuned on as few as 50-100 user emails can generate text closely following genuine user writing, while our novel RoSA method enables this personalization on commodity hardware—reducing computational requirements by over 90% compared to standard approaches.

The technical innovation of the PersonalAI proof-of-concept lies in a four-component system that triages queries by complexity, executes simple tasks locally with efficiently-trained personalized models, sanitizes sensitive information from complex queries before cloud processing, and re-personalizes external outputs to match user style. As such, PersonalAI targets the rapidly-expanding EU AI market, where data sovereignty and GDPR compliance are paramount, for both companies and individual users. It offers the first solution that combines the personalization quality of proprietary services with complete data privacy. The project assembles a world-class team including the PI, lead developer Eugenia Iofinova (architect of PanzaMail), and two MIT advisors with deep entrepreneurial expertise. By transforming academic breakthroughs into a commercially viable product, PersonalAI will establish a new paradigm where users maintain complete ownership of their data and AI models while accessing state-of-the-art text generation and model editing capabilities.

Champ scientifique (EuroSciVoc)

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2025-POC

Voir tous les projets financés au titre de cet appel

Institution d’accueil

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Contribution nette de l'UE
€ 150 000,00
Adresse
Am Campus 1
3400 Klosterneuburg
Autriche
Région
Ostösterreich Niederösterreich Wiener Umland/Nordteil
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
Aucune donnée

Bénéficiaires (1)