Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Scalable Manipulation Learning through AR-enhanced Teleoperation enabling Intuitive Interactive Instructions

Projektbeschreibung

Kompetenz-Lernfähigkeiten von Robotern erweitern

Bedeutende Fortschritte in den Bereichen künstliche Intelligenz (KI), Robotik und digitale Technologien hatten in mehreren Sektoren, insbesondere in der Automatisierung, Durchbrüche zur Folge. Leider gibt es sowohl bei der KI als auch in der Robotik immer noch Schwierigkeiten dabei, unterschiedliche Objekte, komplexe Szenarien und Umgebungen zu meistern. Auch hinsichtlich der Fähigkeit, Objekte mit unterschiedlichen Eigenschaften und Geometrien zu manipulieren, gibt es Einschränkungen. Das Befolgen komplizierter Bedienungsanleitungen stellt ebenso eine Herausforderung dar. Vor diesem Hintergrund wird das Team des ERC-finanzierten Projekts SMARTI3 die Generierung menschlicher und synthetischer Daten für Roboterlernen optimieren und somit die Fähigkeiten der Roboter zum Erlernen von Fertigkeiten erheblich steigern und ausbauen. Dieser Ansatz ist eine Kombination aus Datengenerierung, Nutzung menschlichen Feedbacks zur kontinuierlichen Selbstverbesserung, Feinabstimmung des Grundlagenwissens und Einbeziehung von Offline-Anweisungen und geometrischen Informationen, um Schlüsselmodelle für Wahrnehmung, Vorhersage und Fertigkeiten zu entwickeln.

Ziel

SMARTI3 addresses three pivotal visions in robotics: enabling robots to handle diverse objects in complex scenes, manipulate objects with varying geometries and physical properties, and interpret and follow intricate instruction manuals. While AI is predestined to realize these visions, its promises to fulfill these visions have not been fully realized yet. Despite significant breakthroughs of AI in many domains, robotics has not seen a parallel surge, primarily due to challenges in task-specific data collection, the high demand for training data, and the extensive expertise required for applying AI in robotics.

Our innovative approach integrates intuitive data generation, fine-tuning of foundational knowledge, leveraging human feedback for continual self-improvement, and incorporating offline instructions with semantic and geometric information into skill, perception, and prediction models. Our objectives are to streamline the generation of human and synthetic data for robot learning, develop few-shot adaptable foundational representations, scale-up robot skill-learning capabilities, and enhance learning from interactive human feedback and offline instructions.

The project showcases its advancements through three use cases that mirror future industrial applications: sorting and disassembling a variety of Lego pieces, origami folding from visual instructions, and assembling complex Lego structures from unsorted pieces using instruction manuals. These cases highlight our approach's adaptability and potential for industrial application.

SMARTI3 aims to revolutionize robotic skill, perception, and prediction models, significantly broadening the scope of robotic technology in various industries. This groundbreaking project lays the foundation for a new era of intelligent, adaptable, and user-friendly robotic solutions, set to rival human manipulation capabilities.

Wissenschaftliches Gebiet (EuroSciVoc)

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-ERC - HORIZON ERC Grants

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2024-COG

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

KARLSRUHER INSTITUT FUER TECHNOLOGIE
Netto-EU-Beitrag
€ 2 445 808,00
Adresse
KAISERSTRASSE 12
76131 Karlsruhe
Deutschland
Region
Baden-Württemberg Karlsruhe Karlsruhe, Stadtkreis
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 2 445 808,00

Begünstigte (1)