Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

PersonalAI: Efficient and Private Text Personalization with Large Language Models

Descripción del proyecto

Desarrollar la personalización privada de los grandes modelos de lenguaje de código abierto

El auge de los grandes modelos de lenguaje (LLM) genera un conflicto entre funcionalidad y privacidad, ya que los usuarios deben compartir datos sensibles con terceros. En un estudio de PanzaMail se reveló que el ajuste fino de los modelos a partir de entre cincuenta y cien correos electrónicos puede imitar el estilo de escritura de un usuario, mientras que el método RoSA permite realizar personalizaciones con más de un 90 % menos de capacidad informática. El equipo del proyecto PersonalAI, financiado por el CEI, desarrollará la personalización privada y en el propio dispositivo de los LLM de código abierto. Cuenta con un sistema que gestiona la complejidad de las consultas, procesa tareas sencillas de forma local, depura los datos sensibles y vuelve a personalizar los resultados. Dirigido al mercado de la inteligencia artificial (IA) de la Unión Europea (UE), garantizará la privacidad de los datos y el cumplimiento del RGPD, al tiempo que permitirá a los usuarios conservar la propiedad de sus datos y acceder a capacidades avanzadas de generación de texto.

Objetivo

The rapid adoption of Large Language Models (LLMs) for text generation has created a critical tension between functionality and privacy: while users increasingly rely on services like ChatGPT for personal and business communications, such cloud-based systems require surrendering control of sensitive data to third-party companies, often outside EU jurisdiction. The PersonalAI project addresses this fundamental challenge by enabling fully private, on-device personalization of open-source LLMs, leveraging breakthrough compression and fine-tuning techniques developed in the PI's ERC Starting Grant ScaleML project. Our preliminary PanzaMail study showed that models fine-tuned on as few as 50-100 user emails can generate text closely following genuine user writing, while our novel RoSA method enables this personalization on commodity hardware—reducing computational requirements by over 90% compared to standard approaches.

The technical innovation of the PersonalAI proof-of-concept lies in a four-component system that triages queries by complexity, executes simple tasks locally with efficiently-trained personalized models, sanitizes sensitive information from complex queries before cloud processing, and re-personalizes external outputs to match user style. As such, PersonalAI targets the rapidly-expanding EU AI market, where data sovereignty and GDPR compliance are paramount, for both companies and individual users. It offers the first solution that combines the personalization quality of proprietary services with complete data privacy. The project assembles a world-class team including the PI, lead developer Eugenia Iofinova (architect of PanzaMail), and two MIT advisors with deep entrepreneurial expertise. By transforming academic breakthroughs into a commercially viable product, PersonalAI will establish a new paradigm where users maintain complete ownership of their data and AI models while accessing state-of-the-art text generation and model editing capabilities.

Ámbito científico (EuroSciVoc)

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) ERC-2025-POC

Ver todos los proyectos financiados en el marco de esta convocatoria

Institución de acogida

INSTITUTE OF SCIENCE AND TECHNOLOGY AUSTRIA
Aportación neta de la UEn
€ 150 000,00
Dirección
Am Campus 1
3400 Klosterneuburg
Austria
Región
Ostösterreich Niederösterreich Wiener Umland/Nordteil
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
Sin datos

Beneficiarios (1)