comfyui：通過工作流創(chuàng)建任務(wù)瞬沦，完成任務(wù)。常用于文生圖雇锡，圖生圖逛钻，文生視頻，圖生視頻锰提，圖片绣的，視頻風(fēng)格遷移，換臉欲账，高清化屡江，。各種功能需要對應(yīng)的模型及插件實現(xiàn)赛不。
api: comfyapi提供功能包含：system_info（系統(tǒng)狀態(tài)）惩嘉，get prompt(查詢當前任務(wù)數(shù))，post prompt（提交任務(wù)）踢故，history（查詢完成任務(wù)詳情（如果未完成返回空對象））
企業(yè)級應(yīng)用面臨的挑戰(zhàn)：
可用性文黎，可擴展性，高并發(fā)殿较，安全性耸峭，合規(guī)性，國際化淋纲。
comfyui 單節(jié)點：同時只能運行一個任務(wù)劳闹，在執(zhí)行任務(wù)期間，新增的任務(wù)會自動添加到任務(wù)隊列。由于某型模型在特殊參數(shù)下會占用大量算力資源本涕，可能會造成服務(wù)崩潰业汰，存在任務(wù)丟失系統(tǒng)不可用的隱患。
comfyui集群：comfyui集群可以很好的解決高并發(fā)菩颖，可用性問題样漆。但由于comfyui的任務(wù)都是異步任務(wù)，給擴展性帶來了幾點挑戰(zhàn)晦闰。
1.當一個任務(wù)提交到某個節(jié)點放祟，可后續(xù)如果查詢到另外的節(jié)點則會查不到任務(wù)。
-
當任務(wù)量突增后又開始驟減呻右，集群節(jié)點的伸縮也是問題跪妥，可能出現(xiàn)某老節(jié)點存在大量任務(wù)堆積，但新節(jié)點只能分配個別任務(wù)窿冯。合適的擴縮容器時機也難以把控。
伸縮.png -
在集群擴容時确徙，啟動速度也是要關(guān)注的地方醒串，由于comfyui中的很多模型占用很大的存儲空間，如果啟動機器后一一下載可能花費數(shù)十分鐘鄙皇，這樣不但占用帶寬芜赌，而且等容器啟動正常工作，可能原節(jié)點組已經(jīng)積壓大量任務(wù)伴逸。
啟動ing.png -
任務(wù)分配問題缠沈，comfyui使用sd模型制作一張簡單的文生圖可能需要1-3s，但是如果制作圖片生成視頻错蝴，視頻生成視頻洲愤，受分辨率，視頻時長顷锰，幀率影響柬赐，可能要幾分鐘甚至數(shù)十分鐘，如果將耗時任務(wù)和非耗時任務(wù)統(tǒng)一在相同集群執(zhí)行可能造成非耗時用戶難以接受官紫。
queueTime.png -
工作流管理肛宋，不同的效果需要不同的工作流json。 隨著技術(shù)的改進束世，部分模型酝陈，工作流程也會發(fā)生變化，在多人開發(fā)環(huán)境下工作流管理會開始變的混亂毁涉。
image.png
