LM Studio
| 開發者 | Element Labs |
|---|---|
| 首次發布 | 2023年5月 |
| 源代碼庫 | github |
| 操作系統 | Windows、macOS、Linux |
| 類型 | LLM推理軟件 |
| 許可協議 | 專有 |
| 網站 | lmstudio |
LM Studio是一款用於在個人電腦本地運行和使用大型語言模型的推理軟件,提供模型下載與管理、通過聊天機器人界面交互,以及通過應用程序接口(API)將本地運行的模型提供給其他應用等服務[1][2]。
LM Studio使用llama.cpp作為GGUF格式模型的推理引擎,並支持Apple在Apple Silicon上的MLX框架[3]。除圖形界面外,該平台還包括命令行工具、Python與TypeScript軟件開發套件,以及一個提供原生、OpenAI兼容和Anthropic兼容API的本地推理服務器[4][3]。
歷史
[編輯]LM Studio於2023年5月發布[5]。最初它被開發為一個將本地模型推理與模型發現、聊天界面、本地模型管理及API服務器相結合的桌面環境[6]。
對Apple Silicon上MLX推理框架的支持於2024年10月加入,與既有的基於llama.cpp的推理系統並存[7]。後續版本擴展了面向開發者的能力,包括無頭運行、按需加載模型、命令行下載模型、工具調用與推測解碼[8][9]。
2026年4月,LM Studio的開發商Element Labs收購了Locally AI,[10]其開發者加入該公司,負責在Apple設備上開發原生AI應用[10]。
功能
[編輯]LM Studio提供一個集成界面,用於查找與下載AI模型、將模型載入內存、配置推理設定,並通過聊天界面與模型交互。模型可以通過Hugging Face等倉庫的集成獲取[11]。該應用還可以使用檢索增強生成,將本地文檔作為上下文提供給語言模型[11]。
該軟件可以充當本地的推理服務器,使應用能夠通過LM Studio的REST API或仿照OpenAI與Anthropic API的兼容接口訪問已加載的模型[4]。其Python與TypeScript軟件開發套件提供編程式的模型加載、文本生成、嵌入與智能體工具調用[3]。
LM Studio也可以在沒有圖形界面的情況下運行。其無頭組件llmster將LM Studio核心運行時打包,作為本地計算機、服務器與GPU系統上的後台服務使用[12]。
相關軟件與服務
[編輯]LM Studio已從最初的桌面應用擴展出更多軟件與服務。LM Link允許遠程訪問另一台計算機上運行的模型,[12]其移動端軟件則源於2026年對Locally AI的收購[10]。
該公司還開發了Bionic,一個可調用本地模型的人工智能代理,用於文檔創建、計算機編程、工作流自動化與計算機交互,可通過LM Studio運行時使用本地運行的模型[13]。
評價
[編輯]PCWorld將LM Studio列為在本地運行語言模型的應用之一,並着重介紹了其模型選擇、配置控制、開發者界面與對檢索增強生成的支持,同時稱它更面向高級用戶而非初學者[11]。
在與Ollama的對比中,《Windows Central》強調了LM Studio的圖形界面,以及其對使用集成AMD與Intel顯卡的系統進行GPU加速的支持,稱其為發現、安裝與交互本地語言模型的統一環境[14]。
LM Studio也被用於本地AI軟件的研究。2026年一項數字取證研究將LM Studio與Ollama和llama.cpp進行對比,檢查這些應用留下的痕跡,包括模型緩存、配置數據、提示歷史、日誌與網絡活動[15]。
參見
[編輯]外部連結
[編輯]參考文獻
[編輯]- ^ 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英語).
- ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英語).
- ^ 3.0 3.1 3.2 How to run gpt-oss locally with LM Studio. OpenAI. 2025-08-07 [2026-08-13] (英語).
- ^ 4.0 4.1 Route Local Inference Requests to LM Studio. Nvidia. [2026-08-13] (英語).
- ^ LM Studio is free for use at work. LM Studio. [2026-08-11] (英語).
- ^ LM Studio 0.3.0. LM Studio. [2026-08-11] (英語).
- ^ LM Studio 0.3.4 ships with Apple MLX. LM Studio. 2024-10-08 [2026-08-11] (英語).
- ^ LM Studio 0.3.5. LM Studio. [2026-08-11] (英語).
- ^ LM Studio 0.3.6. LM Studio. 2025-01-06 [2026-08-11] (英語).
- ^ 10.0 10.1 10.2 Locally AI, an app for running local AI on iPhones, has been acquired by LM Studio. GIGAZINE. 2026-04-10 [2026-08-13] (英語).
- ^ 11.0 11.1 11.2 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英語).
- ^ 12.0 12.1 LM Studio's LM Link: Local AI Everywhere. Dell. 2026-04-02 [2026-08-13] (英語).
- ^ LM Studio Bionic has been released, allowing users to use local AI models as AI agents. It supports coding and slide creation, and also allows the use of cloud models. GIGAZINE. 2026-07-17 [2026-08-13] (英語).
- ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英語).
- ^ Murtuza, Shariq. Forensic Implications of Localized AI: Artifact Analysis of Ollama, LM Studio, and llama.cpp. 2026. arXiv:2603.23996
[cs.CR].