Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

VITAL-Rim: Vision-Tactile-Language Integration for Robotic Interactive Manipulation

Description du projet

Des robots domestiques plus intelligents grâce à la vision, au toucher et au langage

Si la robotique a transformé les chaînes de production, les robots domestiques n’ont pas connu la même évolution. Ils peinent encore à évoluer dans l’environnement imprévisible et chaotique d’un foyer, principalement parce qu’ils ne sont pas capables de comprendre pleinement les intentions humaines ni de manipuler des objets. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet VITAL-Rim développera un cadre tactile-vision-langage-action (TVLA) combinant perception visuelle, compréhension du langage naturel et détection tactile en temps réel afin de permettre aux robots d’accomplir des tâches ménagères courantes avec davantage de précision et d’adaptabilité. L’objectif est d’apprendre aux robots à interpréter des instructions orales et à affiner leurs mouvements grâce à un retour tactile continu. À terme, VITAL-Rim nous rapproche d’un monde dans lequel des robots d’assistance feront partie intégrante de notre quotidien.

Objectif

The VITAL-Rim project, short for VIsion-TActile-Language integration for Robotic interactive manipulation, aims to enhance household robots' ability to assist with daily chores by endowing three key capabilities: scene perception through vision, semantic understanding via language, and real-time force control through touch. Currently, the development of household robots lags behind that of industrial robots, primarily due to two VITAL RIMs in homes: the barrier between humans and robots, and the complicated interaction between robots and their environments. To address these challenges, this project will propose a novel slow-fast tactile-vision-language-action (TVLA) model that facilitates high-rate, dexterous control of robots in homes. To achieve this, the project will implement a three-tier hierarchical framework consisting of the VLA Semantic Layer, Slow Policy Layer, and Fast Action Layer. The VLA Semantic Layer will interpret language instructions and outline task sequences. The Slow Policy Layer will generate scene-adaptive action blocks, bridging the operational frequency gap between semantic actions and real contact scenarios. The Fast Action Layer will refine these actions in real-time using a proposed lightweight vision-tactile fusion model, ensuring precise force control and rapid responsiveness. The project will design a portable handheld data collector that collects multimodal data from real household chores, thereby generating a comprehensive dataset and providing a benchmark for the TVLA model training. Ultimately, this trained model will undergo thorough evaluation in both simulations and real-world robots.
Overall, the VITAL-Rim project will empower home robots to effectively understand and respond to natural language instructions, significantly improving their interactive manipulation skills in the contact-rich scenarios. This aligns with the work programme's focus on advancing robotics for practical applications in domestic environments.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2025-PF

Voir tous les projets financés au titre de cet appel

Coordinateur

THE UNIVERSITY OF LIVERPOOL
Contribution nette de l'UE
€ 276 187,92
Adresse
BROWNLOW HILL 765 FOUNDATION BUILDING
L69 7ZX LIVERPOOL
Royaume-Uni
Région
North West (England) Merseyside Liverpool
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
Aucune donnée

Partenaires (2)