ComfyUI-WorldSculpt:把拍摄的场景拆成一个个独立可编辑3D物体

插件1个月前发布 小马良
111 0

现在AI生成3D场景已经很常见,但大部分方案生成出来的模型是一整块网格。场景里的桌子、杯子、椅子全部粘连在一起,没法单独选中、移动、删除物体,想导入游戏引擎或者三维软件二次修改基本行不通。

另外传统三维重建还有一个痛点:物体互相遮挡时,被盖住的模型部分会直接出现空洞;而现有的生成式3D工具,大多只能处理桌面少量物件,碰到堆满几十上百件物品的复杂空间,效果会断崖式下跌。

Alaya Lab推出的WorldSculpt,这是一套组合式三维场景生成框架。输入一段普通多视角拍摄的视频或者一组照片,就可以把整个复杂环境,拆成一个个独立的三维模型物件。

ComfyUI-WorldSculpt是一套基于ComfyUI Pixal3D / TRELLIS.2节点开发的第三方WorldSculpt的ComfyUI节点。不需要额外安装Python依赖,DINOv3+NAF、Shape DiT、VAE和网格后处理,全部复用comfy_extras/nodes_trellis2.py自带能力。

  • GitHub:https://github.com/jtydhr88/ComfyUI-WorldSculpt
  • WorldSculpt:https://github.com/AlayaLab/WorldSculpt

只需要输入多视角照片或者一段拍摄视频,WorldSculpt就能把整个场景拆解成一个个独立网格物件。每一件家具、摆件都是独立模型,统一放在同一个世界坐标中。就算物体之间相互遮挡,AI也会自动补全物体背面的结构。

ComfyUI-WorldSculpt:把拍摄的场景拆成一个个独立可编辑3D物体

内置ComfyUI节点一览

节点名称功能说明
WorldSculpt Load Scene读取场景文件夹,加载transforms.json、画面帧与物体掩码
WorldSculpt Instance Views根据相机参数,为场景里每一个物体单独裁切对应的画面
WorldSculpt LoRA Loader加载多视角SS/Shape LoRA,适配Pixal3D基础模型
WorldSculpt Aggregator Loader载入多视角特征聚合器
WorldSculpt Structure Conditioning替换原生Pixal3D条件节点,融合多视角相机信息与聚合特征
WorldSculpt Shape Stage替换Trellis2形状生成节点,完成物体几何结构生成
WorldSculpt Texture Stage负责物体纹理生成,沿用原生Pixal3D纹理模型
WorldSculpt Place Mesh将生成的网格放置到真实米制世界坐标系
WorldSculpt Merge Instances收集全部独立物体网格,合并成完整场景
WorldSculpt Scene From Estimates输入视频,通过Depth Anything3、SAM3自动检测物体、估算相机、深度,生成带3D包围盒的场景

模型获取与文件结构

模型存放路径:models/worldsculpt/

hf download AlayaLab/WorldSculpt --local-dir tmp

需要下载两组LoRA与聚合器权重:

  • ss分支:worldsculpt_ss_lora.pt、worldsculpt_ss_aggregator.pt
  • shape分支:worldsculpt_shape_lora.pt、worldsculpt_shape_aggregator.pt

同时需要Pixal3D基础模型:pixal3d_bf16.safetensors、dino_v3_L_naf_fp32.safetensors、trellis_2_shape_vae_bf16.safetensors。

注意:LoRA不能搭配int8版本Pixal3D使用。

内置工作流

仓库workflows目录提供两套现成工作流:

  1. worldsculpt_instance.json:单次只生成单个物体
  2. worldsculpt_scene.json:批量处理全部物体,逐个生成网格,最后合并导出GLB场景文件

完整管线逻辑:

加载Pixal3D模型 → 载入SS、Shape两套LoRA → 读取场景素材 → 裁切每个物体多视角画面 → 结构条件编码 → 采样生成物体几何 → 网格重网格化、减面 → 放置到世界坐标 → 全部物体合并 → 保存GLB。

可选开启纹理分支,生成物体顶点色;如果需要标准PBR贴图,则额外执行UV展开、贴图烘焙。

实拍视频重建工作流

worldsculpt_video.json支持直接导入视频做重建,不需要提前标注。

视频经过SAM3物体追踪、Depth Anything3深度估算,自动提取物体掩码、相机参数、深度信息,筛选有效帧,剔除漂移、低质量物体轨迹,生成场景包围盒,再接入上面的逐物体生成管线。

小提示:Depth Anything3推荐fp32精度加载;fp16会出现解码器数据类型报错。

实测效果与硬件参考

  1. Marble客厅场景:一共13个物体,每个物体取12个视角,RTX5090整机耗时6.5分钟。
  2. UE-MeshyScene场景:93个物体,265帧2560×1440素材,ComfyUI完整运行46分钟,输出1880万面合并GLB。93物体批量运算峰值占用56GB内存,低配机器建议拆分场景分批生成。

存在的局限

  • 物体追踪容易出现识别偏差,比如墙板被识别成独立板材;
  • 深色、半透明物体容易生成一团杂乱网格;
  • 场景尺度依赖Depth Anything3估算,不一定是真实物理尺寸。

适合的使用场景

适合创作者、独立开发者快速制作可编辑3D场景,产出的GLB文件可以直接导入Unity、Unreal、Blender。可以单独挪动、删除场景内任意物件,解决传统AI场景模型无法二次编辑的痛点。

© 版权声明

相关文章