上一篇文章:將Stable Diffusion自定義model部署到服務(wù)器上并支持自動(dòng)擴(kuò)容
上一篇文章主要介紹了如何編寫我們自己的運(yùn)行模型的代碼槽驶,不依賴stable-diffusion-webui提供的整個(gè)webui的加載饼拍,從而能夠運(yùn)行模型秃踩,然后將任何自定義模型以及Lora部署到支持自動(dòng)擴(kuò)縮容的GPU服務(wù)器上逛腿,從而能夠支撐多人并發(fā)請(qǐng)求。
本文依然準(zhǔn)備介紹如何將任何自定義的Stable Diffusion模型或者Lora模型部署到服務(wù)器上筒捺,從而可以定制自己的UI界面并且不受同時(shí)只能接受一個(gè)請(qǐng)求的限制踩窖。同時(shí)诺擅,提供了一種長(zhǎng)期對(duì)外提供服務(wù)的比較經(jīng)濟(jì)的方案
上一篇文章中使用的平臺(tái),雖然能夠滿足自動(dòng)擴(kuò)縮容的需求谴分,但是至少會(huì)保留一臺(tái)GPU實(shí)例锈麸,每小時(shí)0.6美刀,還是很燒錢的牺蹄。而這篇文章中忘伞,我發(fā)現(xiàn)了另一個(gè)更加經(jīng)濟(jì)的平臺(tái),在沒有請(qǐng)求時(shí)可以縮容到0臺(tái)實(shí)例從而避免費(fèi)用钞馁,在有請(qǐng)求時(shí)才會(huì)計(jì)費(fèi)虑省,并且只會(huì)對(duì)真正計(jì)算的時(shí)間收費(fèi),我試了一下一次生成基本只需要0.02美刀僧凰,對(duì)于項(xiàng)目的啟動(dòng)來說已經(jīng)足夠經(jīng)濟(jì)了探颈。
詳情訪問:https://mp.weixin.qq.com/s/2R-QuuQKeIccPpoc1i9cUQ