Как запускать ComfyUI через Modal почти бесплатно

Короткий ответ. Запуск ComfyUI на Modal может быть недорогим для редких коротких задач, но «почти бесплатно» зависит от действующих кредитов, GPU-времени, хранения и сетевого трафика. Для теста лучше короткий развёртываемый сценарий с сохранением результатов и явным лимитом затрат. Постоянно работающий сервер перестаёт быть дешёвым.

Что именно оплачивается

Посмотрите правила оплаты Modal и типы GPU. Платформа тарифицирует вычисления и отдельные ресурсы по своим правилам. Не переносите цену Runpod напрямую: у Modal иной жизненный цикл контейнеров. Проверьте действующие бесплатные кредиты в собственном аккаунте, поскольку условия могут измениться.

Минимальный путь запуска

Начните с Python-приложения Modal, которое создаёт образ с ComfyUI и только нужными зависимостями. Разделите сборку образа и скачивание крупных моделей: большие файлы лучше держать в устойчивом томе или объектном хранилище, а не каждый раз загружать заново. Запускайте сервер только на время теста и ограничьте число параллельных задач. Для отладки используйте modal serve; для постоянного endpoint — modal deploy.

Проверьте безопасность endpoint

Если открываете ComfyUI по сети, не оставляйте публичный интерфейс без необходимой защиты. Сверьте способ публикации URL в официальных документах Modal и настройте доступ для своего сценария. Не вкладывайте токены в общий workflow или изображение. Для API сохраняйте логи запроса и ответ с ошибкой, но скрывайте секреты.

Измерьте цену первого результата

Сделайте один небольшой запрос, посмотрите длительность холодного старта, выполнения и фактическое списание. Затем сравните с тем же графом на арендованном pod. Если модель грузится несколько минут при каждом запросе, редкие вызовы могут быть неудобны; устойчивое хранение и кэширование меняют экономику.

Когда Modal удобен

Он полезен для автоматизированных вызовов по API и нерегулярной нагрузки, когда сервер можно останавливать между задачами. Для длительной интерактивной сессии в браузере обычный pod может быть проще. Сначала решите, нужен вам интерфейс ComfyUI или программный вызов, затем проектируйте развёртывание.

На что обратить внимание при проверке

Чтобы расходы не выросли незаметно, задайте предел параллелизма и выключайте отладочную сессию после проверки. Измеряйте отдельно холодный старт и реальное выполнение workflow: большая модель может загружаться дольше, чем генерируется кадр. Для популярных моделей используйте общий том, если это поддерживается вашим проектом и не нарушает лицензию. В логе отмечайте версию ComfyUI и установленных нод. Если понадобилась ручная установка внутри запущенного контейнера, перенесите её в определение образа, иначе следующий старт повторит проблему. Для первых тестов можно ограничиться одним небольшим официальным workflow.

После первого запуска выгрузите итоговый PNG и JSON за пределы временного контейнера, затем проверьте их открытие локально. Это подтвердит, что эксперимент действительно завершён и воспроизводим.

Для повторения эксперимента храните вместе исходный JSON, входное изображение или видео, названия файлов моделей и результат. Запишите версии ComfyUI и пользовательских нод, а также разрешение и длительность. При вопросе в сообществе приложите конкретный кадр, на котором виден дефект, и укажите, что уже проверено. Это помогает отличить ошибку сборки от ограничений самой модели и даёт возможность воспроизвести проблему.

Частые вопросы

Можно ли исправить проблему одним prompt?

Сначала проверьте входные файлы, соединения и совместимость модели. Prompt меняет текстовое условие, но не создаёт отсутствующую ноду и не подключает референс. Если схема исправна, меняйте формулировку только после контрольного прогона.

Как понять, что правка помогла?

Повторите короткий тест с прежними моделью, размером, seed и входным материалом. Меняйте один параметр за раз и сравнивайте конкретный дефект. Сохраняйте обе версии результата и workflow.