在 RunPod 上渲染
沒有大顯示卡,或者顯示卡正忙?bitGen Studio 可以把渲染傳送到你在 RunPod 租用的 GPU,再把圖片、影片和歌曲取回來。這裡是每一步 - 以及 GPU 不是你自己的時有什麼不同。
註冊 RunPod 帳戶 這是 bitGen 的推薦連結:透過它註冊可以支持 bitGen Studio 的開發。
- 請先閱讀
- Serverless 還是 Pod?
- 你的 RunPod 帳戶
- 把模型放到 RunPod 上
- 建立 Serverless 端點
- 連線 bitGen Studio
- 先用 SDXL 測試
- 哪些風格可用
- 只把部分工作放到 RunPod 上
- 改用 Pod
- 出現問題時
請先閱讀
不會使用你自己電腦上的模型。RunPod 的 GPU 在 RunPod 的資料中心裡,讀不到你電腦上的任何東西。渲染用到的每個模型、LoRA 和 VAE 都必須先放到 RunPod 上 - 複製一次到那裡的網路磁碟區,之後的每次渲染都能一直使用。
- 自訂節點包也必須在 RunPod 上:它們要裝進工作器的鏡像。很多風格不需要 - 見“哪些風格可用”。
- Serverless:一次渲染及其輸入檔案(參考圖片、影片、歌曲)加起來必須小於 10 MB - 這是 RunPod 的限制。bitGen 會在傳送前檢查。
- Serverless:閒置一段時間後的第一次渲染要等工作器啟動 - 冷啟動可能需要幾分鐘。執行時沒有步驟顯示,只顯示時間。
- 渲染前 bitGen 檢查缺失模型的步驟會跳過 - 它看不到 RunPod 的磁碟。缺少的模型會讓渲染失敗,並顯示 RunPod 自己的訊息。
- 你的提示詞、參考圖片和結果會通過網際網路往返 RunPod。在自己的電腦上渲染,它們就都留在家裡。
- 這要花錢:RunPod 按 GPU 執行時間收費,網路磁碟區按月收費。價格會變 - 見 runpod.io/pricing。你告訴 bitGen GPU 每小時的費用後,它會計入 📊 使用情況。
Serverless 還是 Pod?
| Serverless 端點 | 只在渲染時付費。沒有需要啟動或停止的機器。最適合偶爾渲染。限制:每個任務 10 MB、冷啟動、沒有即時步驟顯示。 |
|---|---|
| Pod | 一整臺執行 ComfyUI 的 GPU 機器,開著時按小時付費 - 由你啟動和停止。最適合長時間連續渲染。沒有 10 MB 限制,有即時步驟顯示,節點包可以在 ComfyUI 裡新增。 |
兩種方式都需要把模型放在 RunPod 上。下面的步驟設定 Serverless;Pod 見“改用 Pod”。
你的 RunPod 帳戶
- 註冊並充值在 runpod.io - 渲染費用從你的餘額中扣除。
- 建立 API 金鑰Settings ▸ API Keys ▸ Create API Key。bitGen 會把它儲存在你電腦上的設定裡。不要給別人:任何拿到它的人都能花你的餘額。
把模型放到 RunPod 上
網路磁碟區是 RunPod 某個資料中心裡一塊會保留檔案的磁碟。Serverless 工作器看到的是 /runpod-volume;Pod 看到的同一塊磁碟是 /workspace。
- 建立網路磁碟區Storage ▸ New Network Volume。選一個有你想用來渲染的 GPU 的資料中心 - 端點只能使用磁碟區所在資料中心的 GPU。容量要放得下你的模型(一個影片模型加上它的文字編碼器可能有 30 GB 以上)。
- 啟動一個 Pod 來填充它Pods ▸ Deploy。先選網路磁碟區(然後只會顯示它所在資料中心的 GPU)- 磁碟區只能在建立 Pod 時掛載。選最便宜的 GPU 和 RunPod PyTorch 範本:它有網頁終端。
- 把模型直接下載到網路磁碟區上Connect ▸ Jupyter,開啟終端,把每個模型下載到 ComfyUI 讀取它的資料夾(在 /workspace/models 下)。Pod 以資料中心的速度下載 - 比從家裡上傳快得多。例如 ACE-Step 1.5:
資料夾和 ComfyUI 的一樣:checkpoints、diffusion_models、loras、text_encoders、vae 等。bitGen 的 🧩 模型管理器會顯示每個模型的來源。cd /workspace && mkdir -p models/diffusion_models models/text_encoders models/vae HF=https://huggingface.co/Comfy-Org/ace_step_1.5_ComfyUI_files/resolve/main/split_files wget -c -P models/diffusion_models $HF/diffusion_models/acestep_v1.5_turbo.safetensors wget -c -P models/text_encoders $HF/text_encoders/qwen_0.6b_ace15.safetensors wget -c -P models/text_encoders $HF/text_encoders/qwen_1.7b_ace15.safetensors wget -c -P models/vae $HF/vae/ace_1.5_vae.safetensors - 只有你才有的模型你自己訓練的 LoRA 或合併的模型無法在網上下載 - 從你的電腦傳送:拖進 Pod 的檔案管理器(RunPod 的 file browser 範本),或使用 RunPod 為網路磁碟區提供的 S3 相容 API。所需時間取決於你的上傳速度。
- 停止 Pod檔案放好後就終止(Terminate)它 - 它執行時一直收費。檔案會保留在網路磁碟區上。
風格靠檔名找到模型,models/checkpoints 下面的資料夾也算在名字裡 - 位於 models/checkpoints/sdxl/juggernaut.safetensors 的檔名為 sdxl/juggernaut.safetensors。在 bitGen 中把這個名字寫進風格的 Model 框:那裡的清單顯示的是你電腦上的模型,而不是 RunPod 上的。
建立 Serverless 端點
端點執行的是 RunPod 自己的 ComfyUI 工作器(worker-comfyui,第 5 版)- bitGen 通過網際網路和它通訊。
- 新建端點Serverless ▸ New Endpoint ▸ Deploy from a Docker image。(不要選“Deploy image or video API”或 Hub - 它們建立的是另一種工作器。)
- 鏡像
runpod/worker-comfyui:5.10.0-base- 不帶模型的 ComfyUI;你的模型來自磁碟區。如果你的風格需要節點包,就以它為基礎建構自己的鏡像(見“哪些風格可用”)。 - 設定
GPU 顯示記憶體要夠放你最大的模型 - SDXL 要 16 GB,影片模型要 24-48 GB 或更多;多勾選幾種型號,更容易分到工作器 Active workers(常駐工作器) 0 - 不渲染時什麼都不執行,也不收費 Max workers(最多工作器) 先設為 1 - 用來限制花費 Idle timeout(空閒超時) 5 秒;開啟 FlashBoot Container disk(容器磁碟) 20 GB Network volume(網路磁碟區) 放有你模型的那個 啟動命令、環境變數 留空 - 鏡像會自己啟動工作器 - 部署,並複製端點 ID它在端點頁面上,也在端點地址裡:
https://api.runpod.ai/v2/abc123xyz/run- ID 是/v2/後面的部分。
RunPod 頁面上有一個帶提示詞的 curl 範例 - bitGen 不需要它:它會自己傳送整個 ComfyUI 工作流。
連線 bitGen Studio
- 設定 ▸ 遠端生成 ▸ RunPod Serverless貼上 API 金鑰和端點 ID。如果想計入 📊 使用情況,再填上工作器每小時的費用(RunPod 按秒顯示 - × 3600)。
- ✓ 測試RunPod 會返回它的工作器和任務情況。“0 ready”是正常的:第一次渲染會啟動一個工作器。
- 使用現在所有渲染都發送到端點 - 圖片、影片和歌曲都一樣。“這臺電腦”可以切換回來。
在途中,bitGen 會讓每次渲染適應工作器:工作器只傳回圖片和用 ComfyUI 的 Save Video 節點儲存的檔案,所以用 Video Combine 儲存的影片改用 Save Video 儲存,歌曲則裝在一個很小的無聲影片裡傳送,再在你的電腦上取出。你得到的檔案和用自己的 GPU 一樣。
先用 SDXL 測試
在搬運任何模型之前想先看看能不能用,就不掛網路磁碟區,用 runpod/worker-comfyui:5.10.0-sdxl 建立端點:這個鏡像內建了 bitGen 的 SDXL 風格所用的 SDXL(sd_xl_base_1.0.safetensors)。然後選擇 SDXL 風格,Model 框留空,去掉所有 LoRA,開始渲染。第一張圖在 RunPod 啟動工作器時可能要幾分鐘;之後幾秒就能出圖。
哪些風格可用
從 2.749.0 版起,bitGen 自帶為 RunPod 自己的映像準備的現成遠端風格 - 無需上傳:R_SDXL 和 R_SDXL img2img(sdxl 映像)、R_FLUX.1 schnell、R_FLUX.1 dev 和 R_FLUX.1 dev fp8(flux1-schnell、flux1-dev 和 flux1-dev-fp8 映像)、R_SD3 Medium(sd3)以及 R_Z-Image Turbo(z-image-turbo)。每個映像只有一套模型,所以 bitGen 會向 RunPod 詢問你的端點執行的映像,並只列出適合它的風格(設定 ▸ 遠端生成 ▸ 端點的鏡像)。
RunPod 的工作器鏡像帶的是 ComfyUI 0.34.0,沒有節點包。對照它檢查的結果:
| 直接可用 | MiniMax H3 影片(參考圖片、首尾幀、場景板)、ACE-Step 1.5 和 MiniMax Music3 歌曲,以及大多數圖片風格:SDXL、FLUX 2 和 FLUX 3 Klein、FLUX Kontext 和 Fill、Krea 2、Qwen Image Edit 2511、Anima、Moss。 |
|---|---|
| 需要更新的 ComfyUI | YuE2、Fibo 2、Qwen Image 2.1、PH3 和 FastH3 Omni 用到了 0.34.0 之後才加入 ComfyUI 的節點 - 需要用更新的 ComfyUI 建構你自己的鏡像(工作器的建構有 COMFYUI_VERSION 設定),或者用 Pod。 |
| 需要節點包 | GGUF 風格(ComfyUI-GGUF)、角色替換(VideoHelperSuite、rgthree)、LTX Ripple 和 LTX 畫布(KJNodes、LTXVideo、VideoHelperSuite、RES4LYF)、Viggle、角色設定表生成(H3LookSheets、KJNodes),以及帶歌曲的音樂影片(H3 NativeAudioLock)。 |
使用 RunPod Serverless 時,bitGen 的風格清單只顯示端點能算圖的風格(從 2.744.0 版起)。在設定 ▸ 遠端生成 裡,可以說明映像檔是否帶有更新的 ComfyUI 或額外的節點包,並查看被隱藏的風格及原因。
你自己的鏡像以工作器的鏡像為基礎,加上節點包,再通過 GitHub(Deploy from a GitHub repository)或 Docker Hub 部署到 RunPod - 工作器的 自訂指南 有說明。對這些風格來說,用 Pod 更簡單。
FROM runpod/worker-comfyui:5.10.0-base
RUN comfy-node-install comfyui-videohelpersuite comfyui-kjnodes
只把部分工作放到 RunPod 上
基本設定 ▸ GPU 決定在哪裡執行什麼(從 2.745.0 版起):「遠端」把所有任務傳送到 RunPod,「本機」全部留在你的電腦上,「兩者」讓你勾選要傳送到 RunPod 的內容 - LLM、視覺 LLM、圖片,以及影片 + 歌曲。選「兩者」時,你自己的 ComfyUI 照常啟動,勾選的任務會在開始時傳送到 RunPod。
LLM 和視覺 LLM 在用 RunPod vLLM 工作器建立的第二個 Serverless 端點上執行(Serverless ▸ New Endpoint ▸ Deploy LLM API,並填寫要執行的 Hugging Face 模型)。把它的 ID 填到 設定 ▸ 遠端生成 ▸ LLM on RunPod。視覺 LLM 需要能處理圖片的模型,例如 Qwen2.5-VL - 一個這樣的端點可以同時用於兩者。
從 2.746.0 版起,每個風格決定在哪裡執行:在風格的設定中(設定 ▸ 圖片、影片 或 音訊 ▸ 音樂風格)把「執行於」設為遠端 GPU,它的名稱就會以 R_ 開頭。本機只列出你電腦的風格,遠端只列出 R_ 風格,兩者列出全部 - R_ 風格在 RunPod 上算圖,其他的在你的電腦上算圖。
遠端風格可以有自己的端點 ID,所以可以一個端點放 SDXL 模型,另一個放 FLUX 模型。留空就使用 設定 ▸ 遠端生成 中的端點。
改用 Pod
- 部署一個 ComfyUI PodPods ▸ Deploy,選擇你的網路磁碟區和一個通過 HTTP 公開 ComfyUI 埠(8188)的 ComfyUI 範本。節點包在 Pod 裡用 ComfyUI 的 Manager 新增。
- 設定 ▸ 遠端生成 ▸ RunPod Pod貼上 API 金鑰並按 🔄 My pods:會列出你的 Pod 及其 GPU、價格和狀態。選一個,▶ 啟動,設定埠,✓ 測試,使用。
- ⏹ 用完就停止Pod 開著時按小時收費,不管是否在渲染。
模型也一樣:放在 Pod 的網路磁碟區上,而不是你的電腦上。儘量不要讓 Pod 的 ComfyUI 暴露在公網上 - RunPod 的代理地址很難猜到,但任何知道它的人都能用你的 GPU。
出現問題時
| 算圖在我自己的電腦上進行了 | 設定 ▸ 遠端生成 必須顯示「now: RunPod Serverless」- 在那裡按「使用」。2.744.0 版之前,在設定裡按「儲存」會切換回這台電腦;請更新 bitGen。 |
|---|---|
| 清單中找不到某個風格 | 基本設定 ▸ GPU 會隱藏不在那裡執行的風格:本機時隱藏 R_ 風格,遠端時隱藏其他風格。請修改風格的「執行於」,或選擇「兩者」。 |
| “RunPod refused the API key” | 重新複製金鑰,或新建一個(Settings ▸ API Keys)。 |
| “RunPod does not know the endpoint” | 端點 ID 只是 /v2/ 後面的部分 - 不帶斜槓,也不帶 /run。 |
| 渲染等待很久 | 冷啟動,或者該資料中心沒有空閒的所選類型 GPU - 在端點上多勾選幾種 GPU。端點頁面會顯示正在啟動的工作器。 |
| 模型出現“Value not in list” | 模型不在網路磁碟區上、名稱拼寫不同,或者網路磁碟區沒有掛載到端點。 |
| 節點“does not exist” | 該風格需要鏡像裡沒有的節點包或更新的 ComfyUI - 見“哪些風格可用”。 |
| “RunPod takes 10 MB at most” | 使用更短或更小的參考檔案,或者在 Pod 或你自己的電腦上渲染這一個。 |
| “sent no files back” | 端點用的是舊版工作器 - 請使用 worker-comfyui 5 或更新版本。 |
RunPod 上端點的 Logs 分頁顯示工作器那邊的情況。還是不行?到 討論區 提問。