YuE2 音樂翻唱 for ComfyUI: 從任何參考重塑歌曲#
YuE2 音樂翻唱將參考錄音轉變為全新的人聲表演和編曲,並在 ComfyUI 中進行。該工作流程將源旋律轉錄為可編輯的 SheetSage2 ABC 樂譜,然後以您選擇的音樂風格和歌詞引導 YuE2 生成完整歌曲。這對於希望保留旋律但賦予新氛圍、聲音和樂器的製作人、編曲師和創作者來說是理想的。
結果是一個從畫布保存的乾淨 FLAC 文件。為了獲得最佳的旋律匹配,請盡量保持歌詞短語接近參考,並選擇清晰的單人聲錄音。YuE2 音樂翻唱支持從親密的原聲民謠到爵士或合成流行風格的任何風格。
Comfyui YuE2 音樂翻唱工作流程中的關鍵模型#
- YuE2‑3B。主要的開放模型,計劃符號樂譜並從文本、歌詞和 ABC 指導中合成最終音頻。它支持僅旋律計劃的翻唱,並通過 YuE2 VAE 解碼為高保真立體聲。詳情和翻唱示例請參閱官方模型卡:m-a-p/YuE2-3B 和論文 YuE2: Unifying Symbolic and Audio Music Generation at Frontier Quality。
- SheetSage2。音頻到樂譜模型,將您的參考音軌轉換為適合指導翻唱的 ABC 樂譜。它專注於連貫的旋律、和弦、節拍和結構,非常適合僅旋律的 ABC 翻唱工作:m-a-p/SheetSage2 和技術報告 SheetSage2: Coherent Lead‑Sheet Transcription with Synthetic Supervision。
- YuE2 VAE。將 YuE2 的聲學潛在變量轉換為 48 kHz 立體聲音頻的解碼器。它是 YuE2‑3B 使用的默認聽眾級解碼器:m-a-p/YuE2-Vae。
如何使用 Comfyui YuE2 音樂翻唱工作流程#
此 YuE2 音樂翻唱流程圖從參考音頻到 ABC 轉錄,再通過 YuE2 計劃和合成到最終解碼音軌。畫布上命名的組群,每一個都為歌曲貢獻一個不同的步驟。
- 參考音頻 (
LoadAudio(#45))- 加載如單人聲混音或帶有清晰旋律的樂器的乾淨參考文件。該節點自動將音頻饋送到翻唱子圖。
- 短小且製作精良的片段比噪音或密集的混音更可靠地轉錄。如果您聽到強烈的混響或強烈的對位旋律,請嘗試不同的部分。
- 您可以隨時更換參考文件並重新排隊,以探索在相同的 YuE2 音樂翻唱設置下不同的來源。
- 模型(組 “Model”)
- 工作流程通過
CheckpointLoaderSimple(#15) 加載 YuE2 檢查點。包含的配置指向 3B YuE2 檢查點;如果需要,您可以切換到 Comfy-Org/YuE2 的另一個官方包。 - 加載器提供下游所需的
MODEL、CLIP和VAE對象,因此不需要額外的連線。 - 如果您更改了檢查點,請保持圖形的其餘部分完整並重新排隊以比較每個模型如何渲染相同的翻唱。
- 工作流程通過
- ABC(組 “ABC”)
AudioEncoderLoader(#43) 初始化 SheetSage2 編碼器,SheetSage2AudioToABC(#41) 將參考轉錄為 ABC。子圖預覽 ABC,您可以檢查或複製它。- 對於翻唱,建議僅使用旋律的 ABC。這保留了曲調,同時將和聲和編曲留給您的風格提示。
- 如果轉錄在密集部分遺漏了音符,請嘗試更乾淨的合唱或詩句,然後重新生成 YuE2 音樂翻唱。
- 條件設置(組 “Conditioning”)
YuE2GenerateMusic(#25) 是工作流程的核心。提供您的目標風格描述和歌詞;該節點將它們與 ABC 結合以計劃人聲和編曲。- 保持歌詞音節數接近原始短語,以獲得最忠實的旋律對齊。您仍然可以現代化語言、意象或韻律結構。
- 共享的
SeedNode(#34) 驅動計劃和取樣分支,讓 YuE2 音樂翻唱可以在多次運行中重現。
- 持續時間(組 “Duration”)
- 生成器輸出目標長度(以秒為單位),並將其輸入
EmptyYuE2LatentAudio(#5) 以分配取樣的潛在時間線。 - 設置合理的最大持續時間以加快迭代速度。匹配參考部分長度有助於對齊,避免過長或過短。
- 生成器輸出目標長度(以秒為單位),並將其輸入
- 取樣與解碼(組 “Sampling & Decode”)
KSampler(#8) 使用模型加上來自 YuE2 計劃的正向條件渲染聲學潛在變量。ConditioningZeroOut(#18) 保持負向分支為空。VAEDecodeAudio(#9) 將潛在變量轉換為立體聲音頻以供播放。- 如果您希望在保持旋律不變的情況下稍微不同的表演,請更改種子並再次排隊。
- 導出
- 最終音頻流入
SaveAudioAdvanced(#10),預配置為保存具有 YuE2 音樂翻唱名稱的 FLAC 文件。您可以根據需要編輯文件名或格式。 - 每次運行都寫入一個新文件,讓比較不同風格、歌詞或種子變得容易。
- 最終音頻流入
Comfyui YuE2 音樂翻唱工作流程中的關鍵節點#
YuE2GenerateMusic(#25)- YuE2 音樂翻唱的中央計劃器和條件設置器。提供
style、lyrics和來自 SheetSage2 的abc字串。調整seed以獲得可重現的拍攝,並設置max_duration以設置預算。如果您需要更強的風格遵從或更具創意的短語,請適度調整cfg_scale和temperature;較高的值可能會以多樣性換取忠實度。
- YuE2 音樂翻唱的中央計劃器和條件設置器。提供
SheetSage2AudioToABC(#41)- 將參考歌曲轉錄為指導旋律的 ABC。使用僅旋律模式以獲得緊密的翻唱對齊。如果您的歌詞與參考相比有很多額外的音節,簡化或拆分行以保持音符到音節的映射穩定,然後重新生成。
EmptyYuE2LatentAudio(#5)- 從計劃的秒數分配潛在音頻畫布。從較短的開始以快速預覽,然後在 YuE2 音樂翻唱風格和歌詞節奏感覺正確後延長。保持長度接近參考部分以避免截斷或填充的結尾。
KSampler(#8)- 渲染成為您最終曲目的聲學潛在變量。將其
seed與相同的SeedNode綁定,以保持跨拍攝的可比性。對於微妙的替代品,保持相同的計劃但改變取樣器的種子以探索微時間和發音變化。
- 渲染成為您最終曲目的聲學潛在變量。將其
SaveAudioAdvanced(#10)- 處理導出。為每個項目設置清晰的文件名前綴並選擇您偏好的格式。FLAC 是 YuE2 音樂翻唱輸出的無損母帶處理的良好默認設置。
可選附加功能#
- YuE2 音樂翻唱的風格提示:結合語言、流派、歌手類型、節奏感、主要樂器、氛圍和製作筆記。示例模式:“English, soulful jazz‑pop, expressive male vocal, relaxed feel, Rhodes piano, upright bass, brushed drums, warm saxophone, intimate atmosphere.”
- 歌詞節奏:鏡像參考的分段和大致音節數。保持合唱錨點完好通常會產生最具識別性的翻唱。
- 參考選擇:選擇具有清晰主旋律和最少伴唱的部分。如果詩句混亂,請先嘗試合唱以獲得更可靠的 YuE2 音樂翻唱。
- 權利和署名:僅使用您有權轉換的材料。生成的音頻是新的,但基礎作品可能受到保護。
致謝#
此工作流程實施並建立在以下作品和資源之上。我們對 Comfy-Org 的官方 YuE2 音樂翻唱指南、Comfy-Org 的 YuE2 和 SheetSage2 模型文件的 ComfyUI,以及 Multimodal Art Projection (m-a-p) 的原始 YuE2-3B 和 SheetSage2 研究和發布表示感謝。詳情請參閱以下鏈接的原始文檔和存儲庫。
資源#
- Comfy-Org/Official YuE2 Music Cover Guide
- GitHub: Comfy-Org/docs
- Docs / Release Notes: Official YuE2 music cover guide
- Comfy-Org/YuE2 and SheetSage2 model files for ComfyUI
注意:參考模型、數據集和代碼的使用受其作者和維護者提供的各自許可和條款的約束。


