AI Toolkit Inference : des résultats qui correspondent à vos Training Samples

AI Toolkit on RunComfy.

Step 0 — Préparer deux fichiers depuis votre job AI Toolkit

Vous avez généralement besoin :

1) LoRA weights : *.safetensors

2) Training config file (YAML) du job (souvent config.yml ou *.yaml)

Qu’est‑ce que le Config File (YAML) ?

Dans AI Toolkit, ouvrez votre Training Job et cliquez sur Config File pour voir le YAML exact. Copiez tout et sauvegardez en .yaml pour l’uploader ici.

Pourquoi le YAML compte : il permet à RunComfy de matcher le base model exact et les defaults d’inférence qui ont produit vos samples.

---

Step 1 — Importer une LoRA AI Toolkit dans RunComfy

Chemin : Trainer → LoRA Assets → Import LoRA

Uploader :

• *.safetensors LoRA weights
• training config file (YAML) (recommandé)

Sans YAML, vous pouvez importer en choisissant le Base Model, mais la parité peut se dégrader si les defaults diffèrent.

---

Step 2 — Vérifier que la LoRA apparaît dans LoRA Assets

Après import (ou fin d’un entraînement cloud), la LoRA apparaît dans LoRA Assets.

Depuis là, cliquez Run (Run LoRA) pour démarrer l’inférence (Playground + API).

---

Step 3 — Lancer l’inférence immédiatement (Run LoRA)

Dans LoRA Assets, trouvez la LoRA et cliquez Run.

Cela démarre Run LoRA : inférence on‑demand qui utilise le même base model et la même définition de pipeline du YAML, pour obtenir la preview‑parity sans tout reconstruire à la main.

Vous pouvez tester dans le Playground ou utiliser la même config via API.

---

Step 4 — Reproduire les training samples dans le Playground

Après Run, vous arrivez dans le Run LoRA Playground.

Vérifiez la parité :

• utilisez les mêmes settings (prompt, seed, résolution, steps, guidance, LoRA scale)
• si c’est très proche des samples, c’est bon
• sinon, utilisez la checklist ci‑dessous

---

Step 5 — Utiliser l’API en production (async inference)

Dans Run LoRA, ouvrez l’onglet API. L’API est asynchrone :

• envoyer la requête
• suivre le statut
• récupérer les résultats

Copiez les URLs et le schema de requête depuis le dashboard.

Exemple (illustratif — utilisez votre model_id, chemin LoRA et API key) :

curl --request POST \
  --url "https://model-api.runcomfy.net/v1/models/<MODEL_ID>" \
  --header "Authorization: Bearer <YOUR_API_KEY>" \
  --header "Content-Type: application/json" \
  --data '{
    "prompt": "a studio portrait photo, cinematic lighting",
    "lora": {
      "path": "<YOUR_LORA_NAME_OR_URL>"
    }
  }'

API docs: RunComfy Model API (see also LoRA inputs (Trainer))

---

Quick mismatch checklist

Si ça ne match pas, vérifiez :

1) Exact base model (repo + variant)

2) Width/height after snapping au diviseur du modèle

3) Steps + guidance + scheduler semantics

4) LoRA application mode (adapter vs fuse/merge)

5) Pour edit / I2V : bons control image inputs

6) Drift runtime (Diffusers / ComfyUI versions)

---

Référence open source

Vous voulez faire l’inférence dans ComfyUI et rester cohérent avec vos training samples / previews ?

Voir : AI Toolkit LoRA in ComfyUI: Parity Workflows

Pour auditer / self‑hoster : Open-source AI Toolkit inference code : runcomfy-com/ai-toolkit-inference

---

FAQ

Ai‑je besoin du YAML pour importer ?

Fortement recommandé. Sans YAML, vous pouvez choisir un base model à la main, mais vous perdez le matching automatique des defaults spécifiques au modèle.

Puis‑je importer une LoRA entraînée hors RunComfy ?

Oui. Si elle est entraînée avec AI Toolkit, importez *.safetensors et le YAML, puis lancez Run LoRA.

“Run LoRA”, ça veut dire quoi ?

Run LoRA = inférence on‑demand (Playground + API) qui exécute une LoRA sur son base model sans déployer un endpoint dédié. Facturation par requête.