FLUX.2 Klein 9B LoRA ComfyUI Инференс: генерация LoRA, выровненная с превью AI Toolkit в ComfyUI

Используйте этот RunComfy рабочий процесс, когда вам нужен инференс ComfyUI, который остается согласованным с превью обучения AI Toolkit для FLUX.2 Klein 9B LoRA. Настройка маршрутизирует генерацию через Flux2Klein9BPipeline — обертку для модели открытый исходный код от RunComfy — вместо стандартного графа сэмплера. Ваш адаптер применяется через lora_path и lora_scale внутри этого пайплайна, обеспечивая поведение LoRA, соответствующее обучению, без ручной реконструкции пайплайна.

Почему FLUX.2 Klein 9B LoRA ComfyUI Инференс часто выглядит иначе в ComfyUI

Когда AI Toolkit рендерит превью обучения, он запускает полный пайплайн инференса FLUX.2 Klein 9B — Qwen3-8B текстовое кодирование, планирование потока и внутреннее введение LoRA происходят как единое целое. Типичный граф ComfyUI собирает эти компоненты независимо, что приводит к тонким различиям в кондиционировании, планировании шума и порядке применения адаптера. В результате возникает отклонение на уровне пайплайна, а не просто неправильно настроенная ручка. Flux2Klein9BPipeline устраняет этот разрыв, выполняя собственный пайплайн модели от начала до конца и вводя вашу LoRA внутри него. Ссылка: `src/pipelines/flux2_klein.py`.

Как использовать рабочий процесс FLUX.2 Klein 9B LoRA ComfyUI Инференс

Шаг 1: Получите путь к LoRA и загрузите его в рабочий процесс (2 варианта)

Вариант A — Результат обучения RunComfy > загрузка в локальный ComfyUI:

1. Перейдите в Тренер > LoRA Активы
2. Найдите FLUX.2 Klein 9B LoRA, который вы хотите использовать
3. Нажмите ... (троеточие) меню справа > выберите Скопировать ссылку LoRA
4. На странице рабочего процесса ComfyUI, вставьте скопированную ссылку в поле ввода Загрузить в верхнем правом углу UI
5. Перед нажатием на Загрузить, убедитесь, что целевая папка установлена в ComfyUI > models > loras (эта папка должна быть выбрана как цель загрузки)
6. Нажмите Загрузить — файл LoRA сохраняется в правильный каталог models/loras
7. После завершения загрузки обновите страницу
8. Теперь LoRA появляется в выпадающем списке выбора LoRA — выберите его

Вариант B — Прямой URL LoRA (заменяет Вариант A):

1. Вставьте прямой URL загрузки .safetensors в поле ввода path / url узла LoRA
2. Когда здесь указан URL, он заменяет Вариант A — рабочий процесс загружает LoRA непосредственно из URL во время выполнения
3. Локальная загрузка или размещение файла не требуется

Совет: убедитесь, что URL ведет к фактическому файлу .safetensors, а не к целевой странице или перенаправлению.

Шаг 2: Совместите параметры инференса с настройками вашего образца обучения

Установите lora_scale на узле LoRA, чтобы контролировать силу адаптера — начните с значения, использованного во время превью обучения, и корректируйте оттуда.

Оставшиеся параметры находятся на узлах Generate и Load Pipeline:

• prompt — ваш текстовый запрос; включите любые триггерные слова из обучения
• width / height — разрешение вывода; соответствуйте размеру превью обучения для прямого сравнения (кратные 16)
• sample_steps — шаги инференса; FLUX.2 Klein 9B по умолчанию 25
• guidance_scale — сила CFG; по умолчанию 4.0 (Klein 9B не является guidance-distilled, поэтому это значение напрямую влияет на качество вывода)
• seed — зафиксируйте seed для воспроизведения конкретного вывода; измените его, чтобы исследовать вариации
• seed_mode — fixed или randomize
• hf_token — требуется действительный токен Hugging Face, так как FLUX.2 Klein 9B является закрытой моделью; вставьте ваш токен в поле hf_token на узле Load Pipeline

Совет по выравниванию обучения: если вы настраивали значения сэмплинга во время обучения (seed, guidance_scale, sample_steps, триггерные слова), скопируйте эти точные значения в соответствующие поля. Если вы обучались на RunComfy, откройте Тренер > LoRA Активы > Конфиг, чтобы просмотреть разрешенный YAML и перенести настройки превью/образца.

Шаг 3: Запустите FLUX.2 Klein 9B LoRA ComfyUI Инференс

Нажмите Queue/Run — узел SaveImage записывает результаты в вашу выходную папку ComfyUI.

⚠️ Важно · Доступ к FLUX.2 и токен Hugging Face необходимы

Модели FLUX.2 Klein 9B требуют явного разрешения на доступ на Hugging Face.

Перед запуском этого рабочего процесса:

1. Убедитесь, что вашему аккаунту Hugging Face был предоставлен доступ к FLUX.2 (Klein 9B)
2. Создайте токен доступа Hugging Face
3. Вставьте ваш токен в поле hf_token в узле RC FLUX.2

Без действительного токена и надлежащего доступа к модели рабочий процесс не запустится.

Для пошаговых инструкций смотрите: https://www.runcomfy.com/trainer/ai-toolkit/huggingface-token-flux-ostris-ai-toolkit

Быстрый контрольный список:

• ✅ Учетная запись Hugging Face имеет доступ к FLUX.2 Klein 9B и действительный токен в hf_token
• ✅ LoRA либо: загружен в ComfyUI/models/loras (Вариант A), либо загружен через прямой URL .safetensors (Вариант B)
• ✅ Страница обновлена после локальной загрузки (только Вариант A)
• ✅ Параметры инференса соответствуют конфигурации образца обучения (если настроены)

Если все вышеуказанное верно, результаты инференса здесь должны близко соответствовать вашим превью обучения.

Устранение неполадок FLUX.2 Klein 9B LoRA ComfyUI Инференс

Большинство расхождений между "превью обучения и инференсом ComfyUI" на FLUX.2 Klein 9B происходят из-за различий на уровне пайплайна (путь текстового кодера, планировщик/кондиционирование и где/как применяется адаптер). Рабочий процесс RunComfy избегает ручной перестройки пайплайна, выполняя генерацию через Flux2Klein9BPipeline и вводя LoRA внутри этого пайплайна через lora_path / lora_scale, что является наиболее близким способом воспроизведения поведения превью AI Toolkit в ComfyUI.

(1) Ошибка клиента 401.

Почему это происходит FLUX.2 Klein 9B является закрытой моделью Hugging Face. Если ваш аккаунт не имеет доступа или не предоставлен действительный токен, веса модели не могут быть загружены, и инференс завершается ошибкой 401.

Как исправить

• Убедитесь, что вашему аккаунту Hugging Face был предоставлен доступ к black-forest-labs/FLUX.2-klein-base-9B.
• Создайте токен доступа Hugging Face и вставьте его в поле hf_token на узле Load Pipeline.
• После подтверждения доступа и токена выполните инференс через узлы пайплайна RunComfy AI Toolkit, чтобы аутентификация и загрузка модели происходили в одном согласованном пайплайне.
• Для пошаговых инструкций смотрите: https://www.runcomfy.com/trainer/ai-toolkit/huggingface-token-flux-ostris-ai-toolkit

(2) Ошибки CLIPLoader моделей Flux 2 Klein

Почему это происходит Эти ошибки вызваны несоответствием текстового кодера — например, загрузкой несовместимого кодера или смешиванием активов кодера Klein 4B и Klein 9B. Это часто проявляется как несоответствия размера встраивания или словаря при загрузке CLIP/текстового кодера.

Как исправить

• Обновите ComfyUI до последней версии, чтобы обеспечить полную поддержку FLUX.2 Klein.
• Убедитесь, что используется правильный текстовый кодер для Klein 9B (Klein 9B требует Qwen3-8B; использование кодера 4B приведет к сбою).
• Для инференса LoRA, выровненного с превью, предпочтительнее использовать обертку пайплайна RunComfy, которая загружает правильный кодер и применяет LoRA в том же пайплайне, что и превью AI Toolkit.

(3) формы mat1 и mat2 не могут быть умножены (512x2560 и 7680x3072)

Почему это происходит Эта ошибка указывает на несоответствие размерности кондиционирования, как правило, вызванное использованием неправильного кодера или неправильного типа clip/кондиционирования для FLUX.2 Klein 9B. Модель получает встраивания неправильной формы, что приводит к сбою умножения матриц во время сэмплинга.

Как исправить

• Если вы вручную строите графы, убедитесь, что вы используете специфический для FLUX.2 Klein текстовый кодер и что тип clip/кондиционирования соответствует ожиданиям FLUX.2 Klein.
• Для наиболее надежного исправления выполните инференс через обертку пайплайна RunComfy FLUX.2 Klein 9B (model_type = flux2_klein_9b) и вводите вашу LoRA через lora_path. Это сохраняет всю стек инференса — кодер, планировщик и адаптер — выровненными с превью AI Toolkit.

Запустите FLUX.2 Klein 9B LoRA ComfyUI Инференс сейчас

Загрузите рабочий процесс, вставьте ваш lora_path, введите действительный hf_token и позвольте Flux2Klein9BPipeline выровнять вывод ComfyUI с вашими превью обучения AI Toolkit.