Qwen Image 2.1 修补:无偏移局部编辑工作流程,用于精确的、指令引导的更改#
这个 ComfyUI 工作流程通过使用输入图像、用户蒙版和清晰的英语指令,提供了使用 Qwen Image 2.1 修补进行的目标局部编辑。它遵循无偏移策略,保持工作图像和蒙版完美对齐,然后仅在蒙版区域内部应用潜在噪声,使模型专注于您请求的更改,同时保留周围构图。
使用它来添加或替换局部细节,如潜水员、牛仔或亚麻衬衫。设计强调真实感和场景一致性,使用可选的参考图像,但不保证蒙版外的像素完全相同。期望忠实的插入、自然的光照和接触阴影,以及蒙版边界附近的最小附带更改。
Comfyui Qwen Image 2.1 修补工作流程中的关键模型#
- Qwen-Image 2.1 扩散模型。核心图像生成器,执行指令引导的修补和局部编辑,由您的提示和参考图像调节。Model card
- Qwen-Image 2.1 VAE。将输入图像编码为潜在向量,并将编辑后的潜在向量解码为像素,帮助保留全局外观和色彩空间。Model card
- Qwen-Image 2.1 文本/图像编码器。将英语编辑指令和场景参考转换为调节信号,引导扩散过程实现您请求的编辑。Model card
如何使用 Comfyui Qwen Image 2.1 修补工作流程#
概览:您提供一张图像,在要更改的区域上绘制蒙版,并编写简明的英语指令。工作流程为模型缩放图像,与无偏移对齐蒙版,仅在需要编辑的地方播种噪声,编码您的提示和可选的参考图像,去噪以实现更改,并保存并排比较。
输入图像 + 修补蒙版 (LoadImage (#11))#
加载工作图像及其修补蒙版。蒙版应仅覆盖您要更改的区域,并在边缘周围留有小缓冲区以进行混合。较柔和的边缘通常会产生更干净的接缝。保持图像的其余部分不加蒙版,以便模型优先考虑目标插入或替换。
编辑指令 (英语) (Text (#165))#
编写清晰、具体的指令,描述要添加或修改的内容、出现的位置以及相对于场景的外观。提到比例、姿势、视角和照明以匹配照片。简要约束如“保留房子和海岸线”有助于保持上下文。否定措辞是可选的,但可以引导模型远离不想要的属性。
参考 2 – 原始场景 (LoadImage (#134))#
添加同一场景的原始、未编辑视图作为保留参考。工作流程使用它来固定构图和照明,使修补自然融合。匹配的相机视点和构图最有效。此步骤是可选的,但建议用于真实感。
参考 3 – 原始场景 (LoadImage (#136))#
可选地添加第二个原始场景参考。提供多个一致的参考可以改善编辑周围的结构和色彩稳定性。尽可能使用相同镜头、时间和曝光的图像。
缩放图像和蒙版 (组)#
此组标准化分辨率并保证蒙版对齐采用无偏移方法。图像缩放到模型友好尺寸,通过 VAE 循环以锁定尺寸,然后 GetImageSize (#132) 将这些确切尺寸提供给 ImageScale (#158) 和 ResizeMask (#148),以便像素和蒙版完美匹配。GrowMaskWithBlur (#128) 可以轻柔扩展和羽化蒙版,以减少硬接缝。最后,SetLatentNoiseMask (#126) 确保新噪声仅应用于蒙版区域内部,专注于您绘制的编辑。
模型 (组)#
加载模型组件,编码您的指令和参考图像,并运行去噪步骤。UNETLoader (#192)、VAELoader (#178) 和 CLIPLoader (#177) 引入 Qwen-Image 2.1 模型套件。TextEncodeQwenImage21 (#191) 将您的提示加上参考转换为调节,而 KSamplerAdvanced (#193) 使用来自 SetLatentNoiseMask (#126) 的蒙版潜在向量进行修补。VAEDecode (#194) 返回最终图像。
比较和保存#
Image Comparer (rgthree) (#51) 显示实时的前后视图,帮助您判断对齐、照明和接缝质量。SaveImage (#201) 使用您选择的前缀将结果写入磁盘,以便您快速迭代和保持有组织的版本。
Comfyui Qwen Image 2.1 修补工作流程中的关键节点#
TextEncodeQwenImage21 (#191)#
将英语说明与多达三幅场景图像一起编码为 Qwen Image 2.1 修补的调节。使用 prompt 字段来添加或更改内容,使用 negative_prompt 来避免特征。resolution 控制设置模型的内部工作比例;建议使用 32 的倍数。较高的值可以增加全局细节,但可能需要更多 VRAM 和时间。
SetLatentNoiseMask (#126)#
应用噪声蒙版,以便新信号主要在您绘制的区域内部引入,从而实现强背景保留的局部编辑。与柔和的羽化蒙版配对以实现无缝过渡。未蒙版区域被尊重,但不会被冻结在像素级别,因此边缘附近可能会有微小的附带变化。
GrowMaskWithBlur (#128)#
预处理您的蒙版以获得干净的边界。略微扩展可以确保整个新对象位于可编辑区域内,并通过添加模糊羽化边缘以最大限度地减少接缝。如果精确性至关重要,减少扩展和模糊;如果混合是优先事项,适度增加它们。
KSamplerAdvanced (#193)#
运行去噪过程,在蒙版区域内实现您的指令。调整步骤和采样器以平衡速度和保真度,并设置种子以在迭代期间重现结果。较低的指导通常更自然地融合插入,而较高的指导可以更强地坚持文本。
ImageScaleToMaxDimension (#138)#
设置工作图像的长边,以在细节和计算成本之间取得良好平衡。较大的值可产生更清晰的插入,但会增加内存使用和渲染时间。开始时适度,然后仅在需要更精细的细节时扩大。
ResizeMask (#148)#
将修补蒙版调整为与之前确定的模型工作尺寸完全匹配。这种无偏移对齐防止“蒙版移位”伪影,并保持您绘制区域与图像像素完美注册。
可选附加功能#
- 保持指令简洁和具体:什么、在哪里、比例、视角、照明和任何必须保留的元素。
- 设计蒙版时留有小缓冲区和柔和的边缘;包括完整的对象足迹和接触阴影以实现真实的接地。
- 提供一到两个原始场景参考,以改善构图和色彩稳定性,尤其是在复杂背景下。
- 使用 32 的倍数分辨率;如果需要更多细节,请逐步增加,同时注意 VRAM 和时间。
- 锁定种子以在比较提示或蒙版调整时实现可重现性。
- 对于顽固的接缝,运行轻微的第二次修补,使用仅覆盖过渡区的更紧密、更柔软的蒙版。
这个无偏移 ComfyUI 管道使 Qwen Image 2.1 修补对日常对象插入和局部替换变得实用和可预测。通过对齐的蒙版、蒙版潜在噪声和参考引导的调节,您可以添加与场景几何和光线相匹配的可信元素。
致谢#
此工作流程实现并构建于以下作品和资源之上。我们诚挚感谢 RunningHub 提供工作流程来源,Qwen 提供 Qwen-Image-2.1 模型,以及 Qwen 提供的官方局部编辑示例的贡献和维护。有关权威详细信息,请参阅下面链接的原始文档和存储库。
资源#
- RunningHub/Workflow source
- 文档 / 发布说明: Workflow source
- Qwen/Qwen-Image-2.1
- GitHub: QwenLM/Qwen-Image-2.1
- Hugging Face: Qwen/Qwen-Image-2.1
- Qwen/Official local editing examples
- 文档 / 发布说明: Official local editing examples
注意:使用引用的模型、数据集和代码需遵循其作者和维护者提供的各自许可和条款。








