AI Toolkit Inference: resultados que batem com seus Training Samples

AI Toolkit on RunComfy.

Step 0 — Prepare dois arquivos do seu job AI Toolkit

Você normalmente precisa:

1) LoRA weights: *.safetensors

2) Training config file (YAML) (geralmente config.yml ou *.yaml)

O que é o Config File (YAML)?

No AI Toolkit, abra seu Training Job e clique em Config File para ver o YAML exato. Copie tudo e salve como .yaml para fazer upload aqui.

Por que o YAML importa: ele permite à RunComfy bater o base model exato e os defaults de inferência que geraram seus samples.

---

Step 1 — Importe sua LoRA do AI Toolkit para a RunComfy

Caminho: Trainer → LoRA Assets → Import LoRA

Faça upload:

• *.safetensors LoRA weights
• Training config file (YAML) (recomendado)

Sem YAML, você pode importar escolhendo o Base Model, mas a paridade pode piorar se os defaults forem diferentes.

---

Step 2 — Confirme que aparece em LoRA Assets

Após o import (ou após um treino cloud terminar), a LoRA aparece em LoRA Assets.

De lá, clique Run (Run LoRA) para iniciar inferência (Playground + API).

---

Step 3 — Rode inferência instantaneamente (Run LoRA)

Em LoRA Assets, encontre a LoRA e clique Run.

Isso inicia Run LoRA: inferência on‑demand que usa o mesmo base model e a mesma definição de pipeline do YAML, para bater com o preview sem reconstruir tudo manualmente.

Você pode testar no Playground ou usar a mesma configuração via API.

---

Step 4 — Reproduza training samples no Playground

Depois de Run, você vai para o Run LoRA Playground.

Valide a paridade:

• use os mesmos settings (prompt, seed, resolução, steps, guidance, LoRA scale)
• se ficar muito parecido com os samples, ok
• se derivar, use o checklist abaixo

---

Step 5 — Use a API em produção (async inference)

No Run LoRA, abra a aba API. A API é assíncrona:

• enviar request
• acompanhar status
• buscar resultados

Copie URLs e o request schema do dashboard.

Exemplo (ilustrativo — use model_id, caminho da LoRA e API key):

curl --request POST \
  --url "https://model-api.runcomfy.net/v1/models/<MODEL_ID>" \
  --header "Authorization: Bearer <YOUR_API_KEY>" \
  --header "Content-Type: application/json" \
  --data '{
    "prompt": "a studio portrait photo, cinematic lighting",
    "lora": {
      "path": "<YOUR_LORA_NAME_OR_URL>"
    }
  }'

API docs: RunComfy Model API (see also LoRA inputs (Trainer))

---

Quick mismatch checklist

Se não bate, confira:

1) Exact base model (repo + variant)

2) Width/height after snapping para o divisor do modelo

3) Steps + guidance + scheduler semantics

4) LoRA application mode (adapter vs fuse/merge)

5) Para edit / I2V: corretos control image inputs

6) Runtime drift (Diffusers / ComfyUI versions)

---

Implementação open source de referência

Quer inferência no ComfyUI e resultados coerentes com training samples / previews?

Veja: AI Toolkit LoRA in ComfyUI: Parity Workflows

Para auditar/self‑host: Open-source AI Toolkit inference code → runcomfy-com/ai-toolkit-inference

---

FAQ

Preciso do YAML para importar?

É fortemente recomendado. Sem YAML dá para escolher o base model manualmente, mas você perde o matching automático de defaults específicos do modelo.

Posso importar uma LoRA treinada fora da RunComfy?

Sim. Se foi treinada com AI Toolkit, importe *.safetensors e o YAML, e rode com Run LoRA.

O que significa “Run LoRA” aqui?

Run LoRA é inferência on‑demand (Playground + API) que roda uma LoRA no seu base model sem deployar um endpoint dedicado. Cobrança por request.