跳转到内容

ComfyUI

维基百科,自由的百科全书
ComfyUI
原作者comfyanonymous
首次发布2023年1月16日,​3年前​(2023-01-16)[1]
当前版本0.44.0[2]在维基数据编辑
源代码库github.com/Comfy-Org/ComfyUI
编程语言Python
许可协议GPLv3[3]
网站www.comfy.org

ComfyUI是一款基於節點的開源程式,可讓使用者透過一系列文字提示來生成圖像。它採用Stable Diffusion等免費擴散模型作為其圖像處理功能的基礎模型,並結合ControlNet和LCM低秩適應等其他工具,程式中的每個節點皆代表其中一項工具。

歷史

[编辑]

ComfyUI於2023年1月在GitHub上發布。根據創作者comfyanonymous的說法,該專案的主要目標之一,是從使用者介面的角度來改進現有軟體的設計[4]。該創作者曾參與Stability AI的相關工作,但截至2024年6月3日,其參與關係已告終止,並與核心開發者共同創立了一個名為Comfy Org的組織[5]。2024年7月,Nvidia宣布在其RTX Remix模組化軟體中支援ComfyUI[6]。2024年8月,該軟體新增了對黑森林實驗室所開發的Flux擴散模型的支持,而Comfy Org也加入了由Linux基金會創立的「開放模型倡議」(Open Model Initiative)[7][8]。截至2026年7月,該專案在GitHub上已獲得12.2萬顆星[9]。ComfyUI與Automatic1111(英语:Automatic1111)並列為Stable Diffusion最受歡迎的用戶介面之一[10]。

架構

[编辑]

ComfyUI的主要特點在於其採用節點式架構[11][12]。每個節點都具備特定功能,例如「模型載入器」或「CLIP文字編碼器」[13]。這些節點相互連接,形成稱為工作流程的控制流圖[14]。當提示語被排入佇列時,目前正在執行的節點周圍會出現一個高亮顯示的框架,從「載入檢查點」開始,直至最終影像及其儲存位置為止[13]。工作流程通常由數十個節點組成,形成一個複雜的有向無環圖[14]。節點類型包括模型載入、提示詞設定、採樣器、排程器、VAE解碼器、人臉復原與放大模型、LoRA、嵌入向量以及ControlNet[15][16]。

本系統支援多種採樣器,例如Euler、Euler_a、dpmpp_2m_sde及dpmpp_3m_sde[16]。工作流程可儲存至檔案中,讓使用者能重複使用節點工作流程,並與其他使用者分享[15][17][18]。工作流程的檔案格式為JSON,且可嵌入至生成的影像中[19]。使用者亦已針對基礎系統開發自訂擴充功能,並以新節點的形式提供[15][20],例如旨在製作影片的AnimateDiff擴充功能[21][22]。相較於Automatic1111等其他擴散式使用者介面,ComfyUI被描述為較為複雜[23][24]。程式中亦內建了一個預設節點群組[13]。

截至2024年12月,共支援1,674個節點[25]。ComfyUI支援多種文字轉圖像模型,包括Stable Diffusion、Flux及騰訊的Hunyuan-DiT,以及來自Civitai(英语:Civitai)的自訂模型(如 Pony)[25]。

LLMVision擴充功能遭入侵

[编辑]

2024年6月,一個名為「Nullbulge」的駭客組織入侵了ComfyUI的一款擴充功能,並在其內植入惡意程式碼[26]。這款遭入侵的擴充功能名為ComfyUI_LLMVISION,用於將介面與AI語言模型GPT-4和Claude 3整合,並託管於GitHub上。Nullbulge在其網站上公佈了一份包含數百名ComfyUI用戶跨多項服務的登入資料清單,而該擴充套件的用戶則回報收到大量登入通知。vpnMentor針對該擴充套件進行了安全研究,並聲稱其可能「竊取加密貨幣錢包、截取用戶螢幕畫面、洩露裝置資訊與IP位址,以及竊取包含特定關鍵字或副檔名的檔案」。

Nullbulge的網站聲稱,他們鎖定的是犯下「我們所列罪行之一」的用戶,其中包括AI藝術生成、盜用藝術作品、推廣加密貨幣,以及任何其他形式的竊取藝術家作品的行為,例如從Patreon竊取作品。他們聲稱自己是「一群相信保護藝術家權利及確保其作品獲得公平報酬至關重要的人士所組成的團體」,並認為「AI生成的藝術作品對創意產業有害,應予以遏止」[26]。

參考資料

[编辑]
  1. ^ comfyanonymous. Initial commit.. github. [2024-07-10]. 
  2. ^ Release 0.44.0. 2026年11月4日 [2026年11月4日]. 
  3. ^ comfyanonymous. LICENSE. github. [2024-07-10]. 
  4. ^ comfyanonymous. ComfyUI is now 4 months old!. ComfyUI blog. 2023-05-18 [2024-07-11] (英语). 
  5. ^ ComfyUI 作者团队成立 Comfy Org- DoNews快讯.  已忽略未知参数|script-website= (帮助)
  6. ^ Harper, Christopher. Nvidia's RTX Remix goes open source —chipmaker adds Rest API to interface with ComfyUI for AI remastering or generating new graphics in real time. Tom's Hardware. 2024-07-04 [2024-07-11] (英语). 
  7. ^ 田口和裕. 画像生成AI「Stable Diffusion」の代替に? 話題の「FLUX.1」を試した (1/7). ASCII.jp. 2024-08-07 (日语). 
  8. ^ Wheatley, Mike. Linux Foundation's latest initiative aims to promote 'irrevocable' open-source AI models. SiliconANGLE. 2024-08-12. 
  9. ^ comfyanonymous. ComfyUI. github. [2024-07-10]. 
  10. ^ Hu, Qihan; Xu, Zhenghui; Du, Peng; Zeng, Hao; Ma, Tongqing; Zhao, Youbing; Xie, Hao; Zhang, Peng; Liu, Shuting; Zang, Tongnian; Wang, Xuemei. CanFuUI: A Canvas-Centric Web User Interface for Iterative Image Generation with Diffusion Models and ControlNet. AI-generated Content. Communications in Computer and Information Science 1946. Springer Nature Singapore. 2024: 128–138. ISBN 978-981-99-7586-0. doi:10.1007/978-981-99-7587-7_11 (英语). Currently, the most popular user interfaces for Stable Diffusion are Stable Diffusion WebUI and ComfyUI. 
  11. ^ Zhu, Andrew. Using Stable Diffusion with Python: Leverage Python to control and automate high-quality AI image generation using Stable Diffusion. Packt Publishing. 2024. ISBN 978-1835084311. ComfyUI is a node-based UI that utilizes Stable Diffusion. It allows users to construct tailored workflows, including image post-processing and conversions. It is a potent and adaptable graphical user interface for Stable Diffusion, characterized by its node-based design. 
  12. ^ 故渊. 7 年老显卡 GTX 1080 能跑,图片生成视频模型 Stable Video Diffusion 更新 - IT之家. ithome. 2023-11-25. 
  13. ^ 13.0 13.1 13.2 田口, 和裕. 画像生成AI「Stable Diffusion」使い倒すならコレ! 「ComfyUI」基本の使い方 (1/3). ascii.jp (日语). 
  14. ^ 14.0 14.1 Xue, Xiangyuan; Lu, Zeyu; Huang, Di; Ouyang, Wanli; Bai, Lei. GenAgent: Build Collaborative AI Systems with Automated Workflow Generation -- Case Studies on ComfyUI. 2024-09-02. arXiv:2409.01392 可免费查阅 [cs.CL]. 
  15. ^ 15.0 15.1 15.2 Gal, Rinon; Haviv, Adi; Alaluf, Yuval; Bermano, Amit H.; Cohen-Or, Daniel; Chechik, Gal. ComfyGen: Prompt-Adaptive Workflows for Text-to-Image Generation. 2024. arXiv:2410.01731 可免费查阅 [cs.CL]. 
  16. ^ 16.0 16.1 Zeman, Benjamin. How to build basic workflows in ComfyUI. XDA. 2024-12-04 (英语). 
  17. ^ 白鲸出海. 一家成都游戏公司,做出了一款千万月访问量的AI图像产品-36氪. 2024-05-23 (中文).  已忽略未知参数|script-website= (帮助)
  18. ^ 田口, 和裕. Macで始める画像生成AI 「Stable Diffusion」ComfyUIの使い方 (3/5). ascii.jp. 2024-03-27 (日语). 
  19. ^ しらいはかせ. 画像生成AIを使い倒す!「Stability Matrix」で使えるWebUIを紹介【生成AIストリーム】. Impress Watch. 2023-12-18 (日语). 
  20. ^ 机器之心. 当韩国女团BLACKPINK进军二次元,清华叉院AI神器原来还能这么玩-36氪. 2023-11-16 (中文).  已忽略未知参数|script-website= (帮助)
  21. ^ 新, 清士. アニメの常識、画像生成AIが変える可能性「AnimateDiff」のすごい進化. ascii.jp (日语). 
  22. ^ Guo, Yuwei; Yang, Ceyuan; Rao, Anyi; Liang, Zhengyang; Wang, Yaohui; Qiao, Yu; Agrawala, Maneesh; Lin, Dahua; Dai, Bo. AnimateDiff: Animate Your Personalized Text-to-Image Diffusion Models without Specific Tuning. International Conference on Learning Representations. May 2024. arXiv:2307.04725 可免费查阅. 
  23. ^ Phoenix, James; Taylor, Mike. AUTOMATIC1111 Web User Interface. Prompt engineering for generative AI: future-proof inputs for reliable AI outputs at scale First. Beijing Boston: O'Reilly. 2024. ISBN 978-1098153434. Advanced users may also want to explore ComfyUI, as it supports more advanced workflows and increased flexibility (including image-to-video), but we deemed this too complex for the majority of use cases, which can easily be handled by AUTOMATIC1111. 
  24. ^ Pérez-Colado, Iván J.; Freire-Morán, Manuel; Calvo-Morata, Antonio; Pérez-Colado, Víctor M.; Fernández-Manjón, Baltasar. AI Asyet Another Tool in Undergraduate Student Projects: Preliminary Results. 2024 IEEE Global Engineering Education Conference (EDUCON). 2024-05-08: 1–7. ISBN 979-8-3503-9402-3. doi:10.1109/EDUCON60312.2024.10578883. 
  25. ^ 25.0 25.1 Zeman, Benjamin. Adobe Photoshop's Firefly vs. ComfyUI and Stable Diffusion. XDA. 2024-12-06 (英语). 
  26. ^ 26.0 26.1 Maiberg, Emanuel. Hackers Target AI Users With Malicious Stable Diffusion Tool on GitHub to Protest 'Art Theft'. 404 Media. 2024-06-11 [2024-06-14] (英语).