FLUX.2 Klein 9B LoRA ComfyUI Инференс: генерация LoRA, выровненная с превью AI Toolkit в ComfyUI#

Используйте этот RunComfy рабочий процесс, когда вам нужен инференс ComfyUI, который остается согласованным с превью обучения AI Toolkit для FLUX.2 Klein 9B LoRA. Настройка маршрутизирует генерацию через Flux2Klein9BPipeline — обертку для модели открытый исходный код от RunComfy — вместо стандартного графа сэмплера. Ваш адаптер применяется через lora_path и lora_scale внутри этого пайплайна, обеспечивая поведение LoRA, соответствующее обучению, без ручной реконструкции пайплайна.

Почему FLUX.2 Klein 9B LoRA ComfyUI Инференс часто выглядит иначе в ComfyUI#

Когда AI Toolkit рендерит превью обучения, он запускает полный пайплайн инференса FLUX.2 Klein 9B — Qwen3-8B текстовое кодирование, планирование потока и внутреннее введение LoRA происходят как единое целое. Типичный граф ComfyUI собирает эти компоненты независимо, что приводит к тонким различиям в кондиционировании, планировании шума и порядке применения адаптера. В результате возникает отклонение на уровне пайплайна, а не просто неправильно настроенная ручка. Flux2Klein9BPipeline устраняет этот разрыв, выполняя собственный пайплайн модели от начала до конца и вводя вашу LoRA внутри него. Ссылка: `src/pipelines/flux2_klein.py`.

Как использовать рабочий процесс FLUX.2 Klein 9B LoRA ComfyUI Инференс#

Шаг 1: Получите путь к LoRA и загрузите его в рабочий процесс (2 варианта)#

Вариант A — Результат обучения RunComfy > загрузка в локальный ComfyUI:

1. Перейдите в Тренер > LoRA Активы
2. Найдите FLUX.2 Klein 9B LoRA, который вы хотите использовать
3. Нажмите ... (троеточие) меню справа > выберите Скопировать ссылку LoRA
4. На странице рабочего процесса ComfyUI, вставьте скопированную ссылку в поле ввода Загрузить в верхнем правом углу UI
5. Перед нажатием на Загрузить, убедитесь, что целевая папка установлена в ComfyUI > models > loras (эта папка должна быть выбрана как цель загрузки)
6. Нажмите Загрузить — файл LoRA сохраняется в правильный каталог models/loras
7. После завершения загрузки обновите страницу
8. Теперь LoRA появляется в выпадающем списке выбора LoRA — выберите его

Вариант B — Прямой URL LoRA (заменяет Вариант A):

1. Вставьте прямой URL загрузки .safetensors в поле ввода path / url узла LoRA
2. Когда здесь указан URL, он заменяет Вариант A — рабочий процесс загружает LoRA непосредственно из URL во время выполнения
3. Локальная загрузка или размещение файла не требуется

Совет: убедитесь, что URL ведет к фактическому файлу .safetensors, а не к целевой странице или перенаправлению.

Шаг 2: Совместите параметры инференса с настройками вашего образца обучения#

Установите lora_scale на узле LoRA, чтобы контролировать силу адаптера — начните с значения, использованного во время превью обучения, и корректируйте оттуда.

Оставшиеся параметры находятся на узлах Generate и Load Pipeline:

• prompt — ваш текстовый запрос; включите любые триггерные слова из обучения
• width / height — разрешение вывода; соответствуйте размеру превью обучения для прямого сравнения (кратные 16)
• sample_steps — шаги инференса; FLUX.2 Klein 9B по умолчанию 25
• guidance_scale — сила CFG; по умолчанию 4.0 (Klein 9B не является guidance-distilled, поэтому это значение напрямую влияет на качество вывода)
• seed — зафиксируйте seed для воспроизведения конкретного вывода; измените его, чтобы исследовать вариации
• seed_mode — fixed или randomize
• hf_token — требуется действительный токен Hugging Face, так как FLUX.2 Klein 9B является закрытой моделью; вставьте ваш токен в поле hf_token на узле Load Pipeline

Совет по выравниванию обучения: если вы настраивали значения сэмплинга во время обучения (seed, guidance_scale, sample_steps, триггерные слова), скопируйте эти точные значения в соответствующие поля. Если вы обучались на RunComfy, откройте Тренер > LoRA Активы > Конфиг, чтобы просмотреть разрешенный YAML и перенести настройки превью/образца.

Шаг 3: Запустите FLUX.2 Klein 9B LoRA ComfyUI Инференс#

Нажмите Queue/Run — узел SaveImage записывает результаты в вашу выходную папку ComfyUI.

⚠️ Важно · Доступ к FLUX.2 и токен Hugging Face необходимы#

Модели FLUX.2 Klein 9B требуют явного разрешения на доступ на Hugging Face.

Перед запуском этого рабочего процесса:

1. Убедитесь, что вашему аккаунту Hugging Face был предоставлен доступ к FLUX.2 (Klein 9B)
2. Создайте токен доступа Hugging Face
3. Вставьте ваш токен в поле hf_token в узле RC FLUX.2

Без действительного токена и надлежащего доступа к модели рабочий процесс не запустится.

Для пошаговых инструкций смотрите: https://www.runcomfy.com/trainer/ai-toolkit/huggingface-token-flux-ostris-ai-toolkit

Быстрый контрольный список:

• ✅ Учетная запись Hugging Face имеет доступ к FLUX.2 Klein 9B и действительный токен в hf_token
• ✅ LoRA либо: загружен в ComfyUI/models/loras (Вариант A), либо загружен через прямой URL .safetensors (Вариант B)
• ✅ Страница обновлена после локальной загрузки (только Вариант A)
• ✅ Параметры инференса соответствуют конфигурации образца обучения (если настроены)

Если все вышеуказанное верно, результаты инференса здесь должны близко соответствовать вашим превью обучения.

Устранение неполадок FLUX.2 Klein 9B LoRA ComfyUI Инференс#

Большинство расхождений между "превью обучения и инференсом ComfyUI" на FLUX.2 Klein 9B происходят из-за различий на уровне пайплайна (путь текстового кодера, планировщик/кондиционирование и где/как применяется адаптер). Рабочий процесс RunComfy избегает ручной перестройки пайплайна, выполняя генерацию через Flux2Klein9BPipeline и вводя LoRA внутри этого пайплайна через lora_path / lora_scale, что является наиболее близким способом воспроизведения поведения превью AI Toolkit в ComfyUI.

(1) Ошибка клиента 401.#

Почему это происходит FLUX.2 Klein 9B является закрытой моделью Hugging Face. Если ваш аккаунт не имеет доступа или не предоставлен действительный токен, веса модели не могут быть загружены, и инференс завершается ошибкой 401.

Как исправить

• Убедитесь, что вашему аккаунту Hugging Face был предоставлен доступ к black-forest-labs/FLUX.2-klein-base-9B.
• Создайте токен доступа Hugging Face и вставьте его в поле hf_token на узле Load Pipeline.
• После подтверждения доступа и токена выполните инференс через узлы пайплайна RunComfy AI Toolkit, чтобы аутентификация и загрузка модели происходили в одном согласованном пайплайне.
• Для пошаговых инструкций смотрите: https://www.runcomfy.com/trainer/ai-toolkit/huggingface-token-flux-ostris-ai-toolkit

(2) Ошибки CLIPLoader моделей Flux 2 Klein#

Почему это происходит Эти ошибки вызваны несоответствием текстового кодера — например, загрузкой несовместимого кодера или смешиванием активов кодера Klein 4B и Klein 9B. Это часто проявляется как несоответствия размера встраивания или словаря при загрузке CLIP/текстового кодера.

Как исправить

• Обновите ComfyUI до последней версии, чтобы обеспечить полную поддержку FLUX.2 Klein.
• Убедитесь, что используется правильный текстовый кодер для Klein 9B (Klein 9B требует Qwen3-8B; использование кодера 4B приведет к сбою).
• Для инференса LoRA, выровненного с превью, предпочтительнее использовать обертку пайплайна RunComfy, которая загружает правильный кодер и применяет LoRA в том же пайплайне, что и превью AI Toolkit.

(3) формы mat1 и mat2 не могут быть умножены (512x2560 и 7680x3072)#

Почему это происходит Эта ошибка указывает на несоответствие размерности кондиционирования, как правило, вызванное использованием неправильного кодера или неправильного типа clip/кондиционирования для FLUX.2 Klein 9B. Модель получает встраивания неправильной формы, что приводит к сбою умножения матриц во время сэмплинга.

Как исправить

• Если вы вручную строите графы, убедитесь, что вы используете специфический для FLUX.2 Klein текстовый кодер и что тип clip/кондиционирования соответствует ожиданиям FLUX.2 Klein.
• Для наиболее надежного исправления выполните инференс через обертку пайплайна RunComfy FLUX.2 Klein 9B (model_type = flux2_klein_9b) и вводите вашу LoRA через lora_path. Это сохраняет всю стек инференса — кодер, планировщик и адаптер — выровненными с превью AI Toolkit.

Запустите FLUX.2 Klein 9B LoRA ComfyUI Инференс сейчас#

Загрузите рабочий процесс, вставьте ваш lora_path, введите действительный hf_token и позвольте Flux2Klein9BPipeline выровнять вывод ComfyUI с вашими превью обучения AI Toolkit.