ComfyUI  >  Fluxos de Trabalho  >  LatentSync| Modelo de Sincronização Labial

LatentSync| Modelo de Sincronização Labial

Atualizado em 16/06/2025: Versão ComfyUI atualizada para v0.3.40 para melhorar a estabilidade e compatibilidade. LatentSync redefine a sincronização labial com modelos de difusão latente condicionados por áudio, ignorando representações de movimento intermediárias para um alinhamento áudio-visual perfeito. Aproveitando o Stable Diffusion, ele captura correlações intrincadas enquanto garante suavidade temporal. Ao contrário das abordagens baseadas em pixels, o LatentSync garante superior consistência temporal com seu inovador módulo de Alinhamento de REPresentação Temporal (TREPA). O módulo TREPA ajuda a entregar precisão e realismo incomparáveis.

ComfyUI LatentSync Fluxo de Trabalho

LatentSync| Advanced Lip Sync Video Generator
Deseja executar este fluxo de trabalho?
  • Fluxos de trabalho totalmente operacionais
  • Sem nós ou modelos ausentes
  • Nenhuma configuração manual necessária
  • Apresenta visuais impressionantes

ComfyUI LatentSync Exemplos

ComfyUI LatentSync Descrição

LatentSync é uma estrutura de sincronização labial de ponta a ponta que aproveita o poder dos modelos de difusão latente condicionados por áudio para a geração realista de sincronização labial. O que diferencia o LatentSync é sua capacidade de modelar diretamente as correlações intrincadas entre componentes áudio e visuais sem depender de qualquer representação de movimento intermediário, revolucionando a abordagem para a síntese de sincronização labial.

No núcleo do pipeline do LatentSync está a integração do Stable Diffusion, um poderoso modelo generativo renomado por sua capacidade excepcional de capturar e gerar imagens de alta qualidade. Ao aproveitar as capacidades do Stable Diffusion, o LatentSync pode efetivamente aprender e reproduzir as dinâmicas complexas entre o áudio do discurso e os movimentos labiais correspondentes, resultando em animações de sincronização labial altamente precisas e convincentes.

Um dos principais desafios nos métodos de sincronização labial baseados em difusão é manter a consistência temporal entre os quadros gerados, o que é crucial para resultados realistas. LatentSync enfrenta esse problema de frente com seu inovador módulo de Alinhamento de REPresentação Temporal (TREPA), especificamente projetado para melhorar a coerência temporal das animações de sincronização labial. TREPA emprega técnicas avançadas para extrair representações temporais dos quadros gerados usando modelos de vídeo auto-supervisionados em grande escala. Ao alinhar essas representações com os quadros verdadeiros, a estrutura do LatentSync assegura um alto grau de coerência temporal, resultando em animações de sincronização labial notavelmente suaves e convincentes que correspondem de perto ao áudio de entrada.

1.1 Como Usar o Workflow do LatentSync?

LatentSync

Este é o fluxo de trabalho do LatentSync, os nós do lado esquerdo são entradas para carregar vídeo, o meio é o processamento dos nós do LatentSync, e à direita está o nó de saídas.

  • Carregue seu Vídeo nos nós de entrada.
  • Carregue sua entrada de Áudio de diálogos.
  • Clique em Renderizar !!!

1.2 Entrada de Vídeo

LatentSync

  • Clique e Carregue seu Vídeo de Referência que tenha rosto nele.

O vídeo é ajustado para 25 FPS para sincronizar adequadamente com o modelo de Áudio

1.3 Entrada de Áudio

LatentSync

  • Clique e Carregue seu áudio aqui.

LatentSync estabelece um novo padrão para sincronização labial com sua abordagem inovadora para geração áudio-visual. Ao combinar precisão, consistência temporal e o poder do Stable Diffusion, o LatentSync transforma a forma como criamos conteúdo sincronizado. Redefina o que é possível em sincronização labial com o LatentSync.

Deseja Mais Fluxos de Trabalho do ComfyUI?

RunComfy
Copyright 2025 RunComfy. Todos os Direitos Reservados.

RunComfy é a principal ComfyUI plataforma, oferecendo ComfyUI online ambiente e serviços, juntamente com fluxos de trabalho do ComfyUI apresentando visuais impressionantes. RunComfy também oferece AI Playground, permitindo que artistas utilizem as mais recentes ferramentas de AI para criar arte incrível.