Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Learning Visual Foundation Models for Perceiving 3D Humans

Opis projektu

W kierunku ogólnego trójwymiarowego ludzkiego zrozumienia w sztucznej inteligencji otwartego świata

Szybki rozwój sztucznej inteligencji i integracja technologii dużych modeli językowych (LLM) w wielu różnych usługach i aplikacjach uwypukliły potrzebę ulepszonego uczenia wizualnego i rozwiązań sensorycznych dla przyszłości sztucznej inteligencji. Złożoność, dynamika i głębia środowisk, a także ludzki ruch i zachowanie sprawiają, że jest to zdecydowanie trudne zadanie, co prowadzi do tego, że większość metod ma trudności w ustawieniach otwartego świata, w których muszą uogólniać poza dane szkoleniowe specyficzne dla danej domeny. W ramach finansowanego przez ERBN projektu Human3D opracowane i zbadane zostaną ogólne reprezentacje wizualne na podstawie danych szkoleniowych na dużą skalę, a następnie stworzony zostanie podstawowy model do wspierania zadań analizy i modelowania człowieka w środowiskach 3D w otwartym świecie.

Cel

The world is entering the age of autonomy, where systems like self-driving cars and assistive robots face the challenge of perceiving and understanding human behavior in complex, dynamic environments through sensory inputs like images. While human motion and behavior have been studied extensively using visual data, existing methods often struggle in open-world settings due to their inability to generalize beyond domain-specific training data. The goal of this project is to learn generalizable visual representations from large-scale training data and create a foundational model that supports various human analysis and modeling tasks, grounded in 3D environments, in an open-world setting. Our key objectives include (1) Devising new human-centric representations and algorithms for accurate 3D human motion and appearance reconstruction from in-the-wild videos. (2) Developing advanced generative models synthesizes large-scale, realistic virtual humans, emphasizing controllability and efficiency. (3) Designing physics-guided methods for long-duration human-scene interaction capture using embodied devices. (4) Studying efficient learning algorithms and unified model architectures for 3D human foundation models that enable efficient fine-tuning and generalization across various human-centric computer vision tasks. We aim to establish the computational and algorithmic groundwork for human-centric visual foundation models, with advancement in generative modeling, human-centric representation learning, and visual data simulation. Our work will facilitate the development of autonomous AI agents for various sectors, including autonomous driving, extended reality, education, and manufacturing. Ultimately, this project is committed to advancing human-centric AI technologies, fostering more robust and effective human-AI interaction, and paving the way for practical applications that significantly improve everyday life and industrial processes.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-ERC - HORIZON ERC Grants

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) ERC-2025-STG

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Instytucja przyjmująca

EIDGENOESSISCHE TECHNISCHE HOCHSCHULE ZUERICH
Wkład UE netto
€ 1 500 000,00
Koszt całkowity
€ 1 500 000,00

Beneficjenci (1)