AI Toolkit Inference：Training Samples と一致する結果

AI Toolkit on RunComfy.

Step 0 — AI Toolkit job から 2 つのファイルを用意

通常必要：

1) LoRA weights: *.safetensors

2) Training config file (YAML)（config.yml / *.yaml など）

Config File (YAML) とは？

AI Toolkit の Training Job を開き、上部の Config File から YAML を確認します。内容をすべてコピーし、.yaml として保存してからアップロードしてください。

YAML が重要な理由：training samples を生成した ベースモデルと推論デフォルトを RunComfy が再現できるためです。

---

Step 1 — AI Toolkit LoRA を RunComfy にインポート

経路：Trainer → LoRA Assets → Import LoRA

アップロード：

• *.safetensors LoRA weights
• Training config file (YAML)（推奨）

YAML がない場合も Base Model を選んでインポートできますが、defaults がズレるとパリティが崩れやすくなります。

---

Step 2 — LoRA Assets に表示されることを確認

インポート後（またはクラウド学習完了後）、LoRA は LoRA Assets に表示されます。

ここから Run (Run LoRA) で推論（Playground + API）を開始できます。

---

Step 3 — Run LoRA で即推論

LoRA Assets で対象 LoRA を見つけて Run をクリック。

Run LoRA は、同じ base model と training YAML の pipeline 定義を使う on‑demand 推論です。手作業で再構築せずに preview‑parity を狙えます。

Playground で即テストも、API 統合も可能です。

---

Step 4 — Playground で training samples を再現

Run 後は Run LoRA Playground に入ります。

ここで paritiy を確認：

• 学習サンプルと 同じ設定（prompt/seed/解像度/steps/guidance/LoRA scale）
• 近い結果なら OK
• ズレる場合は下のチェックリストを確認

---

Step 5 — 本番で API を使う（async inference）

Run LoRA の API タブを開きます。API は非同期：

• リクエスト送信
• ステータス監視
• 結果取得

ダッシュボードから URL と request schema をコピーしてください。

例（説明用）：

curl --request POST \
  --url "https://model-api.runcomfy.net/v1/models/<MODEL_ID>" \
  --header "Authorization: Bearer <YOUR_API_KEY>" \
  --header "Content-Type: application/json" \
  --data '{
    "prompt": "a studio portrait photo, cinematic lighting",
    "lora": {
      "path": "<YOUR_LORA_NAME_OR_URL>"
    }
  }'

API docs: RunComfy Model API (see also LoRA inputs (Trainer))

---

Quick mismatch checklist

一致しないときは次を確認：

1) Exact base model (repo + variant)

2) Width/height after snapping to the model’s divisor

3) Steps + guidance + scheduler semantics

4) LoRA application mode (adapter vs fuse/merge)

5) For edit / I2V: correct control image inputs

6) Runtime drift (Diffusers / ComfyUI versions)

---

Open-source reference implementation

ComfyUI で推論しつつ training samples / previews に合わせたい？

こちら： AI Toolkit LoRA in ComfyUI: Parity Workflows

監査/セルフホスト用： Open-source AI Toolkit inference code → runcomfy-com/ai-toolkit-inference

---

FAQ

インポートに YAML は必須？

強く推奨です。YAML がないと base model を手動選択できますが、モデル固有 defaults の一致が崩れやすくなります。

RunComfy 以外で学習した LoRA もインポートできる？

はい。AI Toolkit で学習したなら *.safetensors と YAML をインポートして Run LoRA で推論できます。

“Run LoRA” とは？

専用エンドポイントをデプロイせずに、LoRA を base model 上で動かす on‑demand 推論（Playground + API）です。課金はリクエスト単位です。