Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

VITAL-Rim: Vision-Tactile-Language Integration for Robotic Interactive Manipulation

Descripción del proyecto

Robots domésticos más inteligentes gracias a la visión, el tacto y el lenguaje

Aunque la robótica ha transformado las fábricas, los robots domésticos no han seguido el mismo ritmo. Siguen teniendo dificultades para desenvolverse en el caos impredecible de un hogar, en gran parte porque no pueden comprender plenamente las intenciones humanas ni manipular objetos. Con el apoyo de las acciones Marie Skłodowska-Curie, el proyecto VITAL-Rim desarrollará un marco de trabajo basado en la visión táctil, el lenguaje y la acción que combine la percepción visual, la comprensión del lenguaje natural y la detección táctil en tiempo real para permitir que los robots realicen tareas domésticas cotidianas con mayor precisión y adaptabilidad. El objetivo es enseñar a los robots a interpretar instrucciones verbales y a perfeccionar sus movimientos mediante una retroalimentación táctil constante. En última instancia, VITAL-Rim nos acerca a un mundo en el que los robots de ayuda sean un elemento habitual de nuestra vida cotidiana.

Objetivo

The VITAL-Rim project, short for VIsion-TActile-Language integration for Robotic interactive manipulation, aims to enhance household robots' ability to assist with daily chores by endowing three key capabilities: scene perception through vision, semantic understanding via language, and real-time force control through touch. Currently, the development of household robots lags behind that of industrial robots, primarily due to two VITAL RIMs in homes: the barrier between humans and robots, and the complicated interaction between robots and their environments. To address these challenges, this project will propose a novel slow-fast tactile-vision-language-action (TVLA) model that facilitates high-rate, dexterous control of robots in homes. To achieve this, the project will implement a three-tier hierarchical framework consisting of the VLA Semantic Layer, Slow Policy Layer, and Fast Action Layer. The VLA Semantic Layer will interpret language instructions and outline task sequences. The Slow Policy Layer will generate scene-adaptive action blocks, bridging the operational frequency gap between semantic actions and real contact scenarios. The Fast Action Layer will refine these actions in real-time using a proposed lightweight vision-tactile fusion model, ensuring precise force control and rapid responsiveness. The project will design a portable handheld data collector that collects multimodal data from real household chores, thereby generating a comprehensive dataset and providing a benchmark for the TVLA model training. Ultimately, this trained model will undergo thorough evaluation in both simulations and real-world robots.
Overall, the VITAL-Rim project will empower home robots to effectively understand and respond to natural language instructions, significantly improving their interactive manipulation skills in the contact-rich scenarios. This aligns with the work programme's focus on advancing robotics for practical applications in domestic environments.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-MSCA-2025-PF

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

THE UNIVERSITY OF LIVERPOOL
Aportación neta de la UEn
€ 276 187,92
Dirección
BROWNLOW HILL 765 FOUNDATION BUILDING
L69 7ZX LIVERPOOL
Reino Unido
Región
North West (England) Merseyside Liverpool
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
Sin datos

Socios (2)