创建3D资产是最耗时、最具挑战性的创意任务之一。如果人工智能助手能够根据文本输入生成三维内容,那么它将使三维内容创作普及化,并对视频游戏和电影行业以及AR和VR应用程序的开发大有帮助。
Meta的人工智能研究团队最近推出了Meta3DGen(3DGen),这是一种用于文本到3D素材生成的最先进的新系统。Meta声称,这一新系统可以在一分钟内生成高质量的3D素材。生成的三维素材将具有高分辨率纹理和材质贴图。3DGen还支持基于物理的渲染(PBR)和对以前生成的3D素材进行生成再纹理。
Meta3DGen结合了两个主要组件:文本到3D生成和文本到纹理生成。下面是它的工作原理:
第一阶段:三维素材生成--根据用户提供的文本提示,第一阶段使用Meta的三维素材生成模型(AssetGen)创建初始三维素材。这一步将生成带有纹理和PBR材质贴图的3D网格。推理时间约为30秒。
第2阶段:
用例1:生成三维纹理细化--根据阶段1生成的三维素材和初始文本提示,阶段2将为该素材生成更高质量的纹理和PBR贴图。它使用Meta的文本到纹理生成器Meta3DTextureGen。推理时间约为20秒。
用例2:生成三维(再)纹理--给定一个未纹理化的三维网格和一个描述其所需外观的提示。阶段2还可以从头开始为该三维素材生成纹理(网格可以是以前生成的,也可以是艺术家创建的)。推理时间约为20秒。
您可以在这里阅读Meta3DGen的技术论文全文。
Meta公司还发表了技术论文,介绍他们用于高质量三维模型生成和基于文本提示的纹理生成的方法,这些方法是Meta3DGen系统的基础。