Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español español
CORDIS - Resultados de investigaciones de la UE
CORDIS

Learning to Create Virtual Worlds

Descripción del proyecto

Contenidos tridimensionales creados automáticamente para diversas aplicaciones

Los recientes avances en los métodos de generación de imágenes, como las redes generativas antagónicas y los modelos de difusión, han mejorado enormemente el realismo. Sin embargo, el modelado tridimensional para gráficos por ordenador y experiencias inmersivas sigue rezagado. El proyecto Gen3D, financiado por el Consejo Europeo de Investigación, pretende colmar esta laguna generando automáticamente contenidos tridimensionales para mundos virtuales, permitiendo una renderización flexible desde distintos puntos de vista y manteniendo al mismo tiempo la fidelidad visual del mundo real. El proyecto dará soporte a diversas aplicaciones, como videojuegos, películas, realidad aumentada, realidad virtual, diseño asistido por ordenador, visualización arquitectónica e imágenes médicas. Se centrará en el desarrollo de modelos generativos tridimensionales capaces de producir mallas poligonales con texturas y propiedades de materiales, mejorando al mismo tiempo el control y la editabilidad mediante la generación condicional tanto para usuarios noveles como expertos.

Objetivo

In recent years, we have seen a revolution of learning methods that generate highly-realistic images, such as generative adversarial neural networks, autoregressive methods, or diffusion models (e.g. DALL-E, Stable Diffusion, Runway, etc). Unfortunately, the vast majority of these methods are tailored towards the 2D image domain, while their respective 3D counterparts 3D models that fuel computer graphics applications, and enable visually immersive experiences remain in their infancy.

In this proposal, we tackle the challenge of automatic generation of 3D content for virtual worlds. Such 3D generated content enables versatility, with flexible rendering from arbitrary viewpoints that match the visual fidelity of the real world. We focus on 3D content creation for visually immersive experiences for a much wider audience in myriad applications, such as video games, movies, AR/VR scenarios, CAD modeling, architectural & industrial design, and medical applications. We believe that the key towards automated, high-fidelity content creation lies in developing new machine learning techniques to transform 3D content generation.

(A) We will develop 3D Generative Models that output 3D polygon meshes, along with their surface textures and material properties, highlighting generation of 3D content that can be directly consumed by modern graphics pipelines.

(B) To train our 3D generative models to reflect the complexity and diversity of real data, we will devise methods for Supervision from Images and Videos. The key challenge here is that such collections of images and videos are by nature incomplete projections of the underlying 3D world, thus requiring learning paradigms that generalize across partial instances.

(C) We will research techniques that provide Control and Editability through Conditional Generation. In particular, we will focus on conditional input from both novice (e.g. text-based editing) and expert (e.g. based on existing authoring tools) users alike.

Ámbito científico (EuroSciVoc)

CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véase: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.

Para utilizar esta función, debe iniciar sesión o registrarse

Régimen de financiación

HORIZON-ERC -

Institución de acogida

TECHNISCHE UNIVERSITAET MUENCHEN
Aportación neta de la UEn
€ 2 750 000,00
Dirección
Arcisstrasse 21
80333 Muenchen
Alemania

Ver en el mapa

Región
Bayern Oberbayern München, Kreisfreie Stadt
Tipo de actividad
Institutos de educación secundaria o superior
Enlaces
Coste total
€ 2 750 000,00

Beneficiarios (1)