Idol ComfyUI 圖像轉3D:單一圖像轉3D Gaussian splat,支持SPZ、GLB和環繞視頻#
Idol ComfyUI 圖像轉3D將單一主題照片轉換為可導航的3D視圖。該工作流程從一張圖像重建Gaussian splat,讓您在實時預覽中環繞查看結果,並導出SPZ splat和可選的GLB網格,用於下游DCC、遊戲或XR管道。它由Idol的TripoSplat微調驅動,能夠讀取風格化角色、人物和道具,具有強大的先驗知識。
當您需要從乾淨的產品照片或概念圖快速進行3D探索時,請使用Idol ComfyUI 圖像轉3D。未見面的側面從可見視圖推斷,因此後側細節可能是近似的,而GLB轉換旨在進行快速塊狀模型,可能需要在生產使用前清理。
Comfyui Idol ComfyUI 圖像轉3D工作流程中的關鍵模型#
- Comfy-Org Idol 擴散模型。基於TripoSplat方法的單視圖3D生成的UNet權重。相較於基礎模型,對風格化主題提供更強的性能。Hugging Face: Comfy-Org/Idol 和原始 speridlabs/idol。
- DINOv3 ViT-H 視覺編碼器。從輸入圖像提供穩健的視覺特徵,調節TripoSplat的採樣器以提高3D一致性。與Idol存儲庫一起分發。Hugging Face: Comfy-Org/Idol
- Idol 解碼器 VAE。將潛在樣本解碼為可渲染和導出的Gaussian splat表示。Hugging Face: Comfy-Org/Idol
- Flux2 VAE。用於調整TripoSplat潛在空間特徵的次要VAE。Hugging Face: Comfy-Org/Idol
- BiRefNet 背景去除模型。生成乾淨的主題蒙版,改善薄邊界如頭髮或道具的幾何和顏色。Hugging Face: Comfy-Org/BiRefNet
有關基礎方法的背景,請參見GitHub上的TripoSplat及其論文。GitHub: VAST-AI-Research/TripoSplat 和 arXiv:2605.16355
如何使用Comfyui Idol ComfyUI 圖像轉3D工作流程#
此工作流程有一個核心生成階段和三個並行運行的輸出分支:環繞視頻、SPZ splat和實驗性GLB網格。在簡單背景中加載單個、居中的主題,並排隊圖形以一次性獲得所有輸出。
圖像轉Gaussian Splat(核心生成)#
LoadImage (#99) 節點將您的源圖像和可選的alpha帶入。子圖形 Image to Gaussian Splat (TripoSplat) (#88) 處理預處理、可選的BiRefNet分割和TripoSplat條件。內部,CLIPVisionLoader 和 VAEs 提取特徵,KSampler (#6) 生成潛在向量,VAEDecodeTripoSplat (#55) 將其轉換為3D Gaussian splat。使用子圖形的控制來切換 auto_remove_background,設置 num_gaussians,選擇Idol檢查點,並設置 seed。打開 enable_preview,將模型通過 TripoSplatSamplingPreview (#97) 路由,以便在完全解碼前進行快速驗證。
創建視頻#
RenderSplat (#75) 渲染重建的splat的環繞。攝像機運動由 CreateCameraInfo (#79) 在環繞模式下定義,您可以調整以改變距離和框架。CreateVideo (#41) 組裝幀,SaveVideo (#42) 寫入生成的剪輯。此分支非常適合在離開ComfyUI之前審查輪廓和檢查浮動或遮擋工件。
創建3D模型(SPZ splat)#
SplatToFile3D (#92) 將Gaussian splat寫入 .spz 文件,保存用於高質量splat渲染的點屬性。SaveGLB (#51) 提供3D查看器,以便您檢查方向和比例,然後將文件提交到磁盤。當您需要Idol ComfyUI 圖像轉3D輸出的最忠實實時可視化時,選擇此路徑。
創建3D模型(實驗網格)#
SplatToMesh (#76) 將splat轉換為三角形網格以便交換,具有解析度、平滑和組件清理控制。SaveGLB (#67) 將結果導出為 .glb。該路徑是實驗性的,主要用於快速塊狀模型。預計需要在DCC工具中重新拓撲、減少或修復陰影以便生產使用。
Comfyui Idol ComfyUI 圖像轉3D工作流程中的關鍵節點#
UNETLoader (#16)#
加載專門為風格化角色和道具設計的Idol UNet權重。如果需要基線比較,您可以從其存儲庫中交換到庫存TripoSplat UNet。保持UNet、CLIP視覺模型和VAEs來自同一版本系列以保持穩定行為。參考權重:Hugging Face: Comfy-Org/Idol 和 GitHub: VAST-AI-Research/TripoSplat。
KSampler (#6)#
驅動產生潛在3D表示的去噪計劃。最有影響的控制是 steps、sampler_name、scheduler、cfg 和 seed。增加步驟以提高保真度,調整CFG以平衡對條件的遵循與平滑性,使用種子以確保跨運行的可重複性。避免在步驟非常低的情況下使用極端CFG,這可能會引入不穩定的幾何形狀。
VAEDecodeTripoSplat (#55)#
將最終潛在向量轉換為Gaussian splat。決定性參數是 num_gaussians,設置點計數並影響細節和內存使用。使用適中的計數進行預覽,使用更高的計數進行最終SPZ導出。非常大的計數會增加渲染成本,並不會在模型推斷之外創建新細節。
ComfySwitchNode (#35) 切換:蒙版來源#
選擇BiRefNet蒙版和您提供的任何alpha或蒙版與 LoadImage。當輸入有繁忙背景時,使用模型衍生的蒙版。如果您提供乾淨的alpha,切換到您的蒙版以保留細結構。
TripoSplatSamplingPreview (#97)#
提供採樣方向和粗略幾何的快速、低成本預覽。首次測試主題或更改檢查點時啟用此功能。它幫助您在提交完整解碼前驗證框架和比例。
RenderSplat (#75)#
渲染用於預覽視頻的環繞幀。關鍵控制是圖像 width 和 height、frames、splat_scale、headlight_shading 和 opacity_threshold。注意splat比例和不透明度閾值,這些共同決定點混合的柔和或緊密程度。
SplatToMesh (#76)#
將splat轉換為三角形網格以便 .glb 導出。resolution、min_component、min_opacity 和 smooth 調節細節與清潔度之間的平衡。提高解析度以增加表面保真度,提高最小組件以去除微小的漂浮外殼。預計需在DCC中進行網格清理以獲得最佳效果。
CreateCameraInfo (#79)#
為視頻分支定義環繞攝像機路徑。調整距離、偏航和俯仰以居中主題並避免裁剪。將攝像機調整與 RenderSplat 解析度更改配對,以保持主題在輸出之間的一致框架。
可選附加功能#
- 偏好圖像中主題居中、完全在框架內並且背景最小。
- 如果您已經有高質量的alpha,請使用它;否則啟用自動背景去除以獲得更好的邊緣效果。
- 從適中的
num_gaussians開始迭代,然後在對形狀滿意時提高以進行最終SPZ導出。 - 使用預覽開關來驗證姿勢和比例,在完全解碼前。
- SPZ最適合在兼容splat的查看器中進行保真和快速迭代;GLB用於交換,通常需要清理。
- 當轉換為網格時,預計需在您的DCC中減少和修復法線或陰影。
- 對於環繞視頻,調整攝像機距離和幀數以平衡平滑度和渲染時間。
- 該方法從可見視圖推斷未見面的側面,因此對稱和簡單的形式最可靠地重建。
致謝#
此工作流程實現並構建在以下作品和資源之上。我們感謝Comfy-Org提供的ComfyUI Idol模型文件,Sperid Labs提供的原始IDOL模型,以及Comfy-Org提供的ComfyUI工作流程模板(3d_idol_image_to_gaussian_splat.json)對其貢獻和維護。欲了解權威詳情,請參閱以下鏈接的原始文檔和存儲庫。
資源#
- Comfy-Org/Idol
- Hugging Face: Comfy-Org/Idol
- speridlabs/idol
- Hugging Face: speridlabs/idol
- Comfy-Org/workflow_templates (3d_idol_image_to_gaussian_splat.json)
注意:引用的模型、數據集和代碼的使用受其作者和維護者提供的各自許可和條款的約束。

