Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Learning Digital Humans in Motion

Projektbeschreibung

Digitale menschliche Interaktion für immersive Kommunikation

In der sich stetig weiterentwickelnden digitalen Welt verändert sich rapide die Art und Weise, wie Menschen miteinander kommunizieren und einander wahrnehmen. Neue Technologien ermöglichen es, Menschen zu digitalisieren, wobei digitale Duplikate erschaffen werden, die in Räumen der virtuellen und gemischten Realität existieren. Diese digitalen 3D-Menschen sind besonders für die immersive Telepräsenz von Bedeutung, die Echtzeit-Interaktionen in erweiterten oder virtuellen Umgebungen zulässt. Es stellt jedoch nach wie vor eine Herausforderung dar, realistische und interaktive digitale Menschen mit endverbrauchsgerechter Hardware zu erschaffen. Das Team des ERC-finanzierten Projekts LeMo befasst sich mit diesem Problem, wobei die Nutzung natürlicher Sprache zur Optimierung der Erstellung, Modellierung und Interaktion digitaler Menschen erkundet wird. Die Arbeit des Projekts konzentriert sich auf den Oberkörper und zielt darauf ab, lebensechte Bewegungen zu erfassen und zu synthetisieren, insbesondere Gesichtsausdrücke und Handbewegungen, um eine nahtlose und realistische Kommunikation in virtuellen Umgebungen zu ermöglichen.

Ziel

We are taking part in a revolution of how people perceive each other and how they communicate in the digital space. Emerging technologies demonstrate how humans can be digitized such that their digital doubles (digital humans) can be viewed in mixed or virtual reality applications. Especially, for immersive telepresence these 3D digital humans are of high interest since people can see each other in augmented (AR) or virtual reality (VR), and can interact with each other. For an immersive experience this requires a high-quality level of appearance reproduction as well as the estimation of subtle motions of the human. Besides quality aspects, digital humans need to be reconstructed and driven by consumer-grade hardware solutions (e.g. a webcam) to enable a wide applicability of digital humans for immersive telecommunication, virtual mirrors (e-commerce), or other entertainment purposes (e.g. computer games). In this proposal, we concentrate on the computer vision and graphics aspects of capturing and rendering (realizing) motions and appearances of photo-realistic digital humans reconstructed with commodity hardware and ask the question:

Can we leverage natural language for the reconstruction, representation, and modelling of the appearance, motion, and interactions of digital humans?

As the face and gestures play an important role during conversations, we focus our research on the upper body of the human, aiming at capturing and synthesizing complete, contact-rich digital humans with life-like motions. We will analyze how humans move and will develop data-driven motion synthesis methods that learn how to generate talking and listening motion with interactions of the hand with the face.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-ERC - HORIZON ERC Grants

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2024-STG

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

TECHNISCHE UNIVERSITAT DARMSTADT
Netto-EU-Beitrag
€ 1 500 000,00
Adresse
KAROLINENPLATZ 5
64289 Darmstadt
Deutschland
Region
Hessen Darmstadt Darmstadt, Kreisfreie Stadt
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 1 500 000,00

Begünstigte (1)