跳至內容

LM Studio

本頁使用了標題或全文手工轉換
維基百科,自由的百科全書
LM Studio
開發者Element Labs
首次發布2023年5月,​3年前​(2023-05)
原始碼庫github.com/lmstudio-ai
作業系統Windows、macOS、Linux
類型LLM推理軟件
許可協定專有
網站lmstudio.ai

LM Studio是一款用於在個人電腦本地執行和使用大型語言模型的推理軟件,提供模型下載與管理、通過聊天機械人介面互動,以及通過應用程式介面(API)將本地執行的模型提供給其他應用等服務[1][2]。

LM Studio使用llama.cpp作為GGUF格式模型的推理引擎,並支援Apple在Apple Silicon上的MLX框架[3]。除圖形介面外,該平台還包括命令列工具、Python與TypeScript軟件開發套件,以及一個提供原生、OpenAI相容和Anthropic相容API的本地推理伺服器[4][3]。

歷史

[編輯]

LM Studio於2023年5月發布[5]。最初它被開發為一個將本地模型推理與模型發現、聊天介面、本地模型管理及API伺服器相結合的桌面環境[6]。

對Apple Silicon上MLX推理框架的支援於2024年10月加入,與既有的基於llama.cpp的推理系統並存[7]。後續版本擴充了面向開發者的能力,包括無頭執行、按需載入模型、命令列下載模型、工具呼叫與推測解碼[8][9]。

2026年4月,LM Studio的開發商Element Labs收購了Locally AI,[10]其開發者加入該公司,負責在Apple裝置上開發原生AI應用[10]。

功能

[編輯]

LM Studio提供一個整合介面,用於尋找與下載AI模型、將模型載入主記憶體、組態推理設置,並通過聊天介面與模型互動。模型可以通過Hugging Face等倉庫的整合取得[11]。該應用還可以使用檢索增強生成,將本地文件作為上下文提供給語言模型[11]。

該軟件可以充當本地的推理伺服器,使應用能夠通過LM Studio的REST API或仿照OpenAI與Anthropic API的相容介面訪問已載入的模型[4]。其Python與TypeScript軟件開發套件提供編程式的模型載入、文字生成、嵌入與智能體工具呼叫[3]。

LM Studio也可以在沒有圖形介面的情況下執行。其無頭組件llmster將LM Studio核心執行時打包,作為本地電腦、伺服器與GPU系統上的後台服務使用[12]。

相關軟件與服務

[編輯]

LM Studio已從最初的桌面應用擴充出更多軟件與服務。LM Link允許遠端訪問另一台電腦上執行的模型,[12]其流動端軟件則源於2026年對Locally AI的收購[10]。

該公司還開發了Bionic,一個可呼叫本地模型的人工智能代理,用於文件建立、電腦編程、工作流自動化與電腦互動,可通過LM Studio執行時使用本地執行的模型[13]。

評價

[編輯]

PCWorld將LM Studio列為在本地執行語言模型的應用之一,並着重介紹了其模型選擇、組態控制、開發者介面與對檢索增強生成的支援,同時稱它更面向進階用戶而非初學者[11]。

在與Ollama的對比中,《Windows Central》強調了LM Studio的圖形介面,以及其對使用整合AMD與Intel顯示卡的系統進行GPU加速的支援,稱其為發現、安裝與互動本地語言模型的統一環境[14]。

LM Studio也被用於本地AI軟件的研究。2026年一項數字取證研究將LM Studio與Ollama和llama.cpp進行對比,檢查這些應用留下的痕跡,包括模型快取、組態數據、提示歷史、紀錄檔與網絡活動[15]。

參見

[編輯]

外部連結

[編輯]

參考文獻

[編輯]
  1. ^ 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英語). 
  2. ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英語). 
  3. ^ 3.0 3.1 3.2 How to run gpt-oss locally with LM Studio. OpenAI. 2025-08-07 [2026-08-13] (英語). 
  4. ^ 4.0 4.1 Route Local Inference Requests to LM Studio. Nvidia. [2026-08-13] (英語). 
  5. ^ LM Studio is free for use at work. LM Studio. [2026-08-11] (英語). 
  6. ^ LM Studio 0.3.0. LM Studio. [2026-08-11] (英語). 
  7. ^ LM Studio 0.3.4 ships with Apple MLX. LM Studio. 2024-10-08 [2026-08-11] (英語). 
  8. ^ LM Studio 0.3.5. LM Studio. [2026-08-11] (英語). 
  9. ^ LM Studio 0.3.6. LM Studio. 2025-01-06 [2026-08-11] (英語). 
  10. ^ 10.0 10.1 10.2 Locally AI, an app for running local AI on iPhones, has been acquired by LM Studio. GIGAZINE. 2026-04-10 [2026-08-13] (英語). 
  11. ^ 11.0 11.1 11.2 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英語). 
  12. ^ LM Studio Bionic has been released, allowing users to use local AI models as AI agents. It supports coding and slide creation, and also allows the use of cloud models. GIGAZINE. 2026-07-17 [2026-08-13] (英語). 
  13. ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英語). 
  14. ^ Murtuza, Shariq. Forensic Implications of Localized AI: Artifact Analysis of Ollama, LM Studio, and llama.cpp. 2026. arXiv:2603.23996 可免費查閱 [cs.CR].