Pika H3 Flex ComfyUI工作流程:兩張參考圖像轉換為帶有立體音效和A/B Turbo比較的影片#
此Pika H3 Flex ComfyUI工作流程將兩張參考圖像加上一個場景提示轉換為帶有同步立體音效的短影片。它專為希望快速、高品質參考轉影片結果的藝術家和研究人員設計,並在使用相同的主題、提示、尺寸和種子進行Pika H3 Flex Turbo Ref2VA路徑和MiniMax H3 Turbo路徑之間進行公平的A/B比較。
在內部,工作流程從您的參考中構建單一的條件和潛在,然後運行兩個平行的八步採樣分支。每個分支解碼視頻和音頻並寫入自己的MP4,這使得在保持其他一切不變的情況下,評估風格、運動保真度和音頻可行性變得容易。
Comfyui Pika H3 Flex ComfyUI工作流程中的關鍵模型#
- Pika-Labs Pika H3 Flex。基礎視頻模型和資產,為Pika分支的外觀和運動先驗提供信息。請參閱模型卡以獲取功能和推薦的使用說明。Pika-Labs/Pika-H3-Flex
- Pika H3 Flex Turbo LoRA。一個輕量級適配器,優化於H3 Flex上的快速、高品質Ref2VA,具有強大的身份保留和清晰的運動,步驟很少。Pika-Labs/Pika-H3-Flex-Turbo-LoRA
- MiniMax H3 Singularity Ref2VA。這裡用於參考到視頻條件的擴散骨幹,與MiniMax H3捆綁中的VAE和文本編碼器配對。WarmBloodAban/Minimax-h3_Singularity
- MiniMax H3 Video VAE和Audio VAE。兩個分支使用的幀和立體波形解碼器,用於重建視覺和聲音。Comfy-Org/MiniMax-H3
如何使用Comfyui Pika H3 Flex ComfyUI工作流程#
圖表組織成組,傳遞一個連貫的狀態。兩個分支共享相同的參考、提示、尺寸和種子,然後僅在LoRA階段分叉,以產生兩個可比較的輸出。
模型#
此組加載MiniMax H3 UNet、文本編碼器和配對的視頻和音頻VAE,然後註冊它們以供重用。除非您從其模型卡中交換模型變體,否則不需要在此處更改任何內容。注意後端設置為支持視頻工作負載的高效、穩定注意。所有模型對象均通過get/set節點存儲,以便每個下游階段都可以引用單一的真實來源。
用戶輸入#
使用兩個圖像加載器引入您的主題。自動去除背景以強調身份和姿勢,這增加了當主題被放入新場景中時的外觀一致性。在文本提示中輸入您的場景描述;您可以選擇性地包括"Audio:"行來引導音效和環境。選擇長寬比和百萬像素;解析度選擇器計算32的倍數的寬度和高度,並將持續時間轉換為與採樣器對齊的幀數,以實現平滑運動。設置FPS和種子以控制播放感覺和跨兩個輸出的可重現性。
提示和設置組裝#
一個簡短的風格啟發器通過字符串連接階段預置到您的提示中,以推動現實主義和時間一致性。您可以保留、編輯或完全替換它以匹配您項目的語氣。最終提示被一致地存儲和檢索,以便兩個分支接收相同的文本。寬度、高度、幀數和種子同樣集中,以保證蘋果對蘋果的比較。
條件#
MiniMaxH3ReferenceToVideo (#6617) 接收兩個背景清理的參考、打包的提示和共享的尺寸,以構建正面條件和初始化的視頻和音頻潛在。該節點將兩個圖像中的身份提示與您的場景意圖融合,生成基本運動計劃和音頻草圖。這個單一的條件對象被導出到兩個採樣器,確保Pika和Turbo分支僅由其LoRA堆疊和內部採樣器路徑區分。
LoRAs#
從相同的基礎模型準備兩個LoRA堆疊。一個應用Pika H3 Flex Turbo Ref2VA LoRA以強調Pika外觀,同時在非常少的步驟中保持身份。另一個應用MiniMax H3 Turbo Ref2V LoRA,調整速度和清晰度。由於使用相同的種子、提示和條件,您看到的任何差異都反映了每個LoRA的風格和動態,而不是輸入的變化。
正常採樣 - Pika H3 Flex#
此分支選擇註冊的Pika調整模型,播種噪聲場,並運行帶有共享條件的八步採樣器。去噪後,視頻潛在和音頻潛在由MiniMax H3 VAE解碼。VHS_VideoCombine將幀和立體音效合併為MP4並以Pika特定的文件名前綴保存。使用此輸出來評估身份穩定性、面部完整性、運動平滑度以及合成音效如何匹配您的"Audio:"指導。
正常採樣 - Turbo LoRA#
此分支鏡像Pika路徑,但換入MiniMax H3 Turbo LoRA。應用相同的八步採樣器、種子、提示和幀數學以保持測試公平。解碼使用相同的VAE,然後VHS_VideoCombine寫入第二個具有Turbo前綴的MP4。並排比較兩個文件揭示了Pika H3 Flex Turbo和MiniMax H3 Turbo路徑之間的紋理、運動激進性和音頻細節的取捨。
Comfyui Pika H3 Flex ComfyUI工作流程中的關鍵節點#
MiniMaxH3ReferenceToVideo (#6617)#
通過將您的兩個參考、提示和目標尺寸組合為單一的正面條件和初始潛在來集中Ref2VA。僅在此處調整基本要素:場景提示、參考圖像的選擇和順序以及適合您拍攝的持續時間/尺寸。在比較分支時保持相同的設置,以便差異反映LoRA而不是條件。該節點旨在驅動視頻和立體音效,這些音效使用MiniMax H3 VAE解碼,詳見其模型卡。
Resolution Selector (Size) (#6345)#
選擇長寬比和百萬像素,然後返回與32倍數對齊的寬度和高度以進行高效解碼。將其用作尺寸兩個分支的唯一地方,這最小化了重採樣工件並保持每幀細節一致。增加解析度會提高計算成本並減少步驟時間的餘地,因此在微調外觀和運動時逐步調整。
StringConcatenate (#6346)#
在您的提示之前應用一個緊湊的現實主義啟發器。如果您更喜歡不同的語氣或風格化,可以替換或移除啟發器以讓您自己的措辭占主導地位。在運行中保持此節點一致有助於在測試細微措辭變化時保持A/B完整性。
BasicScheduler (#6742, #6767)#
提供了一個八步計劃,優化於此Ref2VA設置中的快速、穩定的結果。較少的步驟以速度換取細節,而更多的步驟則以時間為代價增加精細度。為了在分支之間進行乾淨的A/B比較,保持步驟相同。
VHS_VideoCombine (#6758, #6776)#
將解碼的幀和立體音效合併為最終的MP4文件。在此處控制格式和幀率,並保持兩個分支同步。如果在上游更改持續時間,請確認寫入器的設置,以便音頻和視頻保持對齊。
可選附加項#
- 預備兩個參考圖像具有相似的姿勢、光照和裁剪,以改善身份穩定性並減少面部漂移。
- 如果繁忙的背景滲入主題,請嘗試更強的遮罩或提供更乾淨的剪裁;如果您的參考已經很好地隔離,您也可以繞過背景去除。
- 在進行Pika與Turbo比較時保持相同的種子;一次僅更改一個因素。
- 從中等百萬像素設置開始,確認運動和音頻感覺,然後在喜歡構圖後縮放解析度。
- 對於對話或特定音效,簡明地撰寫您的"Audio:"行;環境提示和簡單動作往往最可靠地合成。
此Pika H3 Flex ComfyUI工作流程中使用的模型資源:
- Pika-Labs/Pika-H3-Flex
- Pika-Labs/Pika-H3-Flex-Turbo-LoRA
- WarmBloodAban/Minimax-h3_Singularity
- Comfy-Org/MiniMax-H3
- kijai/ComfyUI-KJNodes
- kosinkadink/ComfyUI-VideoHelperSuite
致謝#
此工作流程實施並構建在以下作品和資源之上。我們感謝Pika-Labs提供Pika-H3-Flex和Pika-H3-Flex-Turbo-LoRA,感謝WarmBloodAban提供Minimax-h3_Singularity,感謝Innovate Futures @ Benji提供“Pika H3 Flex: Pika's Own Fine-Tune of MiniMax H3, Tested in ComfyUI”的貢獻和維護。有關權威細節,請參閱以下鏈接的原始文檔和存儲庫。
資源#
- Innovate Futures @ Benji/Pika H3 Flex: Pika's Own Fine-Tune of MiniMax H3, Tested in ComfyUI
- Pika-Labs/Pika-H3-Flex-Turbo-LoRA
- WarmBloodAban/Minimax-h3_Singularity
- Hugging Face: WarmBloodAban/Minimax-h3_Singularity
- Pika-Labs/Pika-H3-Flex
- GitHub: Pika-Labs/Pika-H3-Flex
- Hugging Face: Pika-Labs/Pika-H3-Flex
注意: 使用引用的模型、數據集和代碼需遵循其作者和維護者提供的各自許可和條款。

