Descripción del proyecto
Contenidos tridimensionales creados automáticamente para diversas aplicaciones
Los recientes avances en los métodos de generación de imágenes, como las redes generativas antagónicas y los modelos de difusión, han mejorado enormemente el realismo. Sin embargo, el modelado tridimensional para gráficos por ordenador y experiencias inmersivas sigue rezagado. El proyecto Gen3D, financiado por el Consejo Europeo de Investigación, pretende colmar esta laguna generando automáticamente contenidos tridimensionales para mundos virtuales, permitiendo una renderización flexible desde distintos puntos de vista y manteniendo al mismo tiempo la fidelidad visual del mundo real. El proyecto dará soporte a diversas aplicaciones, como videojuegos, películas, realidad aumentada, realidad virtual, diseño asistido por ordenador, visualización arquitectónica e imágenes médicas. Se centrará en el desarrollo de modelos generativos tridimensionales capaces de producir mallas poligonales con texturas y propiedades de materiales, mejorando al mismo tiempo el control y la editabilidad mediante la generación condicional tanto para usuarios noveles como expertos.
Objetivo
In recent years, we have seen a revolution of learning methods that generate highly-realistic images, such as generative adversarial neural networks, autoregressive methods, or diffusion models (e.g. DALL-E, Stable Diffusion, Runway, etc). Unfortunately, the vast majority of these methods are tailored towards the 2D image domain, while their respective 3D counterparts 3D models that fuel computer graphics applications, and enable visually immersive experiences remain in their infancy.
In this proposal, we tackle the challenge of automatic generation of 3D content for virtual worlds. Such 3D generated content enables versatility, with flexible rendering from arbitrary viewpoints that match the visual fidelity of the real world. We focus on 3D content creation for visually immersive experiences for a much wider audience in myriad applications, such as video games, movies, AR/VR scenarios, CAD modeling, architectural & industrial design, and medical applications. We believe that the key towards automated, high-fidelity content creation lies in developing new machine learning techniques to transform 3D content generation.
(A) We will develop 3D Generative Models that output 3D polygon meshes, along with their surface textures and material properties, highlighting generation of 3D content that can be directly consumed by modern graphics pipelines.
(B) To train our 3D generative models to reflect the complexity and diversity of real data, we will devise methods for Supervision from Images and Videos. The key challenge here is that such collections of images and videos are by nature incomplete projections of the underlying 3D world, thus requiring learning paradigms that generalize across partial instances.
(C) We will research techniques that provide Control and Editability through Conditional Generation. In particular, we will focus on conditional input from both novice (e.g. text-based editing) and expert (e.g. based on existing authoring tools) users alike.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véase: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véase: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
- ciencias socialesciencias políticastransiciones políticasrevoluciones
- ingeniería y tecnologíaingeniería ambientalenergía y combustibles
Para utilizar esta función, debe iniciar sesión o registrarse
Le pedimos disculpas, pero se ha producido un error inesperado durante la ejecución.
Necesita estar autentificado. Puede que su sesión haya finalizado.
Gracias por su comentario. En breve recibirá un correo electrónico para confirmar el envío. Si ha seleccionado que se le notifique sobre el estado del informe, también se le contactará cuando el estado del informe cambie.
Programa(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Convocatoria de propuestas
(se abrirá en una nueva ventana) ERC-2024-COG
Consulte otros proyectos de esta convocatoriaRégimen de financiación
HORIZON-ERC -Institución de acogida
80333 Muenchen
Alemania