Сколько шагов нужно для LoRA на Wan
Сколько шагов нужно для LoRA на Wan: как учитывать размер видеодатасета, сохранять checkpoint и вовремя заметить переобучение.
Короткий ответ. Для LoRA на Wan нет универсального числа шагов. Правильная остановка зависит от версии Wan, задачи text-to-video или image-to-video, количества и разнообразия клипов, batch size, learning rate и того, как вы оцениваете результат. Начните с короткого пробного обучения, сохраняйте несколько промежуточных checkpoint и сравнивайте их на одинаковых тестовых запросах. Рецепт «всегда 3000 шагов» может переобучить маленький датасет или оказаться недостаточным для большого. Пример настройки Wan LoRA есть в документации Hugging Face Finetrainers.
Почему готовое число шагов не переносится на ваш датасет
Шаг обучения — одно обновление весов, а не один просмотр конкретного клипа. Сколько раз модель увидит каждый пример, определяется размером датасета, batch size, повторениями и накоплением градиента. Два человека с одинаковыми «3000 шагов» могут показать модели совершенно разное число повторов одного кадра. Кроме того, скорость изменения LoRA зависит от learning rate и параметров адаптера. Поэтому сравнивать шаги без конфигурации бессмысленно. Общее устройство обучения LoRA и настраиваемые параметры описывает Hugging Face Diffusers.
У Wan важен и тип результата. LoRA, обучаемая на движении, должна проверяться на коротких роликах, а не только по одному красивому стоп-кадру. Для персонажа оцените сходство между кадрами, стабильность одежды, фон, руки и поведение при новой позе. Для стилистики проверьте несколько сцен с разным светом. Если одна тестовая сцена выглядит хорошо, это ещё не доказывает обобщение.
Как построить первый тест
- Запишите точную базовую модель и режим Wan. Не смешивайте результаты разных архитектур.
- Отложите несколько кадров или клипов, похожих по задаче, но не дублирующих обучение.
- Сохраните исходную конфигурацию: разрешение, длину клипа, batch size, learning rate, rank и частоту сохранения.
- Настройте промежуточные checkpoint достаточно часто, чтобы увидеть динамику качества, но не забить диск.
- Выберите три постоянных тестовых prompt и одинаковые условия генерации.
- После нескольких сохранений сравните ролики бок о бок и остановитесь на лучшем состоянии, а не автоматически на последнем.
В примерах Finetrainers для Wan параметры передаются явно. Используйте пример как основу формата конфигурации, а не как обещание качества на другом датасете. Если работаете через сторонний тренер, проверьте, какие параметры он скрывает за пресетом. Не меняйте одновременно число шагов, learning rate и структуру датасета — тогда невозможно понять причину улучшения.
Признаки недообучения и переобучения
| Наблюдение | Возможное объяснение | Следующий тест |
|---|---|---|
| Образ почти не появляется | Мало эффективных обновлений, слабые подписи или неправильная база | Проверить загрузку LoRA и сравнить следующий checkpoint |
| На знакомой сцене хорошо, на новой плохо | Датасет слишком узкий или начало переобучения | Сравнить более ранний checkpoint и добавить разнообразие |
| Артефакты усиливаются с каждым сохранением | Слишком сильная адаптация | Остановить обучение и проверить learning rate |
| Лицо есть, движение нестабильно | Недостаточное разнообразие движения или проблема workflow | Проверить клипы и базовую генерацию без LoRA |
Эти признаки не позволяют точно назвать «правильный шаг» по одному изображению. Проводите контрольный запуск без LoRA: возможно, артефакт создаёт исходный видеограф или неподходящие настройки сэмплера. Затем пробуйте несколько весов применения одной и той же LoRA. Слишком сильный вес при генерации может выглядеть как переобучение, даже если checkpoint приемлемый.
Как считать время и деньги
Для облачной GPU сначала измерьте длительность первых 100 шагов после прогрева и оцените оставшееся время по фактическому логу. Учитывайте время подготовки данных, сохранения checkpoint и тестовой генерации. Цена зависит от текущего предложения провайдера; не копируйте цифру из старой инструкции. Задайте бюджет на эксперимент и заранее определите точки, где будете смотреть результат. Это дешевле, чем обнаружить в конце длинного обучения, что датасет был неверно подписан.
Частые вопросы
Можно ли просто взять 3000 шагов?
Как слепой ориентир — нежелательно. Сначала посчитайте размер датасета и сравните промежуточные сохранения. Лучшее качество может появиться раньше или позже.
Когда остановить обучение?
Когда следующий checkpoint перестаёт улучшать проверочные ролики или начинает терять гибкость на новых сценах. Сохраняйте лучший вариант отдельно.