MiniMax H3 角色替换与 SAM3#
MiniMax H3 角色替换与 SAM3 是 MDMZ 的 ComfyUI 工作流程,用于在视频中用参考角色替换屏幕上的表演者,同时保留源运动、时间、相机运动,以及可选的原始背景。它使用 SAM3 隔离主体并构建反向运动指南,使 MiniMax H3 在不复制身份的情况下跟随运动和构图。结果可以保留源表演者的细节或更改背景的部分,因此请查看完整剪辑以确保身份、手部、服装和场景的一致性。
该工作流程使用免费提示路径:按原样运行提供的提示,或在免费 Gemini 应用中手动粘贴生成的结构化提示以供您自己的输入。保存的默认值使用正常模式、源视频背景和无声输出。包括可选的源音频直通和 Turbo 预览模式,工作流程会根据模型兼容的帧数调整剪辑长度。
验证的示例使用免费提示分支、正常模式下的 20 步,以及视频背景。Turbo、图像背景和音频/唇同步选项已包含但未在这些示例中使用。“免费提示”指的是提示路径;RunComfy GPU 使用单独计费。
ComfyUI MiniMax H3 角色替换与 SAM3 工作流程中的关键模型#
- MiniMax H3 参考到视频基础模型(Ref2VA/Ref2V)。扩散骨干将您的提示、参考图像和运动指南转化为连贯的视频帧,同时跟踪相机和时间。模型文件和发布托管在官方 MiniMax H3 存储库中。MiniMax H3 on Hugging Face
- MiniMax H3 视频 VAE fp16 和音频 VAE fp32。视频 VAE 高效编码和解码潜在帧;音频 VAE 处理 H3 的音频潜在路径。其存在不保证唇同步质量。包含在 MiniMax H3 发布中。MiniMax H3 on Hugging Face
- Qwen3‑VL 32B NVFP4 AWQ 文本编码器。与 MiniMax H3 一同打包,用于编码长结构化提示并保持强大的文本到视频对齐。有关使用的文本编码器,请参见 MiniMax H3 模型文件。MiniMax H3 on Hugging Face
- SAM 3.1 Multiplex。提供强大的、可提示的分割以找到要替换的人物,并用于构建一致的每帧遮罩以驱动运动指南。SAM 3.1 on Hugging Face
- MiniMax H3 Ref2V Turbo LoRA v0.1。一个可选的 LoRA,可在保持 H3 整体外观的同时加快预览速度。最佳用于迭代,然后切换回正常模式以获得最终效果。MiniMax H3 LoRAs
如何使用 ComfyUI MiniMax H3 角色替换与 SAM3 工作流程#
在高层次上,您提供一个短的源剪辑和一个单一的角色图像。工作流程仅检测并反转表演者以创建运动指南,将提供或粘贴的提示与您的背景设置结合,然后 MiniMax H3 渲染替换。源音频可选择性地通过到输出;唇同步质量未在这些无声示例中验证。
1 · 输入 在视频加载器 (#970) 中加载您的运动剪辑,它将其转换为 24 fps,并修剪到您想要的部分。保存的示例使用 124 帧(约 5.17 秒)。在图像加载器 (#496) 中添加角色图像。使用分辨率选择器 (#501) 设置输出长宽比和百万像素。使用提供的提示或在第 3B 组中粘贴一个用于您输入的提示,选择渲染速度(正常质量或 Turbo 预览),选择背景是否来自源视频或角色图像,并决定源音频是否应通过以进行唇同步。
2 · 运动指南 SAM3 检测器 (#503) 根据短文本标签如 person 或 man:1 找到主体。使用遮罩预览 (#492) 确认目标是纯白色的。工作流程仅反转遮罩的表演者,因此 H3 从边缘和阴影读取运动和构图而不是身份。使用运动指南分辨率 (#456) 调整运动指南像素预算,以速度换取精度。当您从图像进行运动转移时,有一个专用开关可让您构建不包括视频背景的运动指南。
3B · 免费提示 按原样运行提供的提示,或从第 3 组复制包含的 Gemini 指令,并要求免费 Gemini 应用分析您的剪辑和角色图像。使用您将生成的相同修剪部分,然后将答案粘贴到您的 H3 提示 (#910)。工作流程会自动清理标题和代码围栏,以便文本与 H3 的预期结构相匹配。
3C · 来自视频的背景(角色替换) 当您希望在原始场景中进行纯角色替换时,工作流程会增强您的提示,并要求 H3 保留源剪辑的背景和照明。它告诉 H3 保留场景几何、物体和分级,并重新照明新角色以匹配镜头。运动指南包括原始帧顶部的反转表演者,因此环境提示对模型保持可见。
3C · 来自图像的背景(运动转移) 对于在静态参考背景上的运动转移,提示被重写以保留角色图像的环境和照明,并忽略源视频的设置。删除了冲突的视频照明和构图线。运动指南被重新组合在中性画布上,因此仅使用运动和相机路径,以减少源视频背景的影响;此可选模式未在提供的示例中验证。
3D · 最终文本 → H3 背景开关合并正确的规则集,并显示发送给 H3 的最终提示,以便您进行合理性检查。此确切字符串被输入到生成中。
4 · 生成 MiniMax H3 Ref → Video (#464) 采用结构化提示、角色图像、运动指南帧、分辨率选择器的宽度和高度,以及自动验证的长度。保存的正常模式使用 20 个采样步骤。Turbo 模式启用 Ref2V Turbo LoRA,具有低步数以实现快速预览,以及为视频和音频调优的 sigma 移动;引导器、采样器和步骤开关选择活动路径。种子控制采样变化;更改它可能会影响身份、运动和背景细节。自定义采样器结合噪声、计划和引导器与潜在剪辑。
5 · 输出 VRAM 清理节点在解码前运行以减轻内存压力;它不保证不会出现内存不足错误。视频 VAE 将潜在解码为帧,保存视频将写入 MP4。默认输出是无声的;仅当启用声音路径且输入有音轨时才附加源音频。
ComfyUI MiniMax H3 角色替换与 SAM3 工作流程中的关键节点#
MiniMax H3 Ref → Video (#464) 核心生成器,将您的提示、参考图像和运动指南绑定在一起。保持提示结构化和具体,并提供一个强大的参考图像以确定身份。宽度和高度来自分辨率选择器,因此纵横比匹配您的意图。长度由自动帧计数器驱动,以满足 H3 的步幅;仅为有音频的剪辑启用声音路径,并单独检查任何语音同步。
SAM3 检测人 (#503) 运行 SAM 3.1 分割,带有简短的文本提示,以便正确隔离表演者。如果场景中有多个角色,请添加快速限定词,如 man:1 或红衣女子:1。首先检查遮罩预览;如果边缘缺失或溢出发生,请收紧提示或调整检测器设置。干净的遮罩是稳定替换的最快途径。
运动指南分辨率 (#456) 设置运动指南使用的总像素预算。较低的值降低处理成本和指南细节。较高的值保留更多的空间细节在指南中,但需要更多的处理;不保证输出质量的提高。逐步增加并观察性能和稳定性。
Turbo LoRA (Ref2V) (#950) 启用快速预览路径,与低步调度程序和调优的 sigma 移动配对,用于视频和音频。用它来快速迭代提示、构图和运动。对于最终镜头,切换回正常步骤以恢复完整的 MiniMax H3 质量。
有效帧计数(自动) (#481) 自动将修剪的剪辑四舍五入为模型友好的帧数,以保持采样稳定。人们通常使用的长度包括 107、124、158、209 和 362 帧,分别约为 4.5 秒、5 秒、6.6 秒、8.7 秒和 15 秒(24 fps)。在加载器中视觉设置开始和结束,并让此节点处理确切的数字。
可选附加项#
- 首先检查遮罩;预览中主体应为纯白色。
- 将帧速率保持在 24 fps 以保持运动和唇同步的一致性。
- 保存的声音路径关闭。仅为有音频的剪辑启用它;检查语音同步而不是假设它会匹配。
- 使用 Turbo 进行快速预览,然后切换到正常模式以进行最终渲染。
- 对于角色替换,选择来自视频的背景;对于运动转移,选择来自图像的背景。
- 如果免费应用返回代码围栏文本或奇怪的标题,仍然粘贴它;工作流程会自动整理格式。
- 更改种子以探索其他结果,然后重新检查运动、构图、身份和背景细节。
致谢#
此工作流程实现并基于以下作品和资源构建。我们感谢 MDMZ 提供的 H3 角色替换工作流程教程和设置指南,Comfy-Org 提供的 ComfyUI 的 MiniMax-H3 模型,以及 ComfyUI 团队提供的官方 MiniMax H3 视频生成指南的贡献和维护。有关权威详情,请参阅下方链接的原始文档和存储库。
资源#
- MDMZ/MDMZ 工作流程教程
- 文档/发布说明:YouTube
- MDMZ/MDMZ 工作流程和指南
- 文档/发布说明:Patreon post
- Comfy-Org/MiniMax H3 模型用于 ComfyUI
- Hugging Face: Comfy-Org/MiniMax-H3
- ComfyUI/ComfyUI MiniMax H3 指南
- GitHub: comfy-org/docs
- 文档/发布说明:ComfyUI Docs
注意:使用参考的模型、数据集和代码需遵循其作者和维护者提供的各自许可证和条款。


