LM Studio
| 開發者 | Element Labs |
|---|---|
| 首次发布 | 2023年5月 |
| 源代码库 | github |
| 操作系统 | Windows、macOS、Linux |
| 类型 | LLM推理软件 |
| 许可协议 | 专有 |
| 网站 | lmstudio |
LM Studio是一款用于在个人电脑本地运行和使用大型语言模型的推理软件,提供模型下载与管理、通过聊天机器人界面交互,以及通过应用程序接口(API)将本地运行的模型提供给其他应用等服务[1][2]。
LM Studio使用llama.cpp作为GGUF格式模型的推理引擎,并支持Apple在Apple Silicon上的MLX框架[3]。除图形界面外,该平台还包括命令行工具、Python与TypeScript软件开发套件,以及一个提供原生、OpenAI兼容和Anthropic兼容API的本地推理服务器[4][3]。
历史
[编辑]LM Studio于2023年5月发布[5]。最初它被开发为一个将本地模型推理与模型发现、聊天界面、本地模型管理及API服务器相结合的桌面环境[6]。
对Apple Silicon上MLX推理框架的支持于2024年10月加入,与既有的基于llama.cpp的推理系统并存[7]。后续版本扩展了面向开发者的能力,包括无头运行、按需加载模型、命令行下载模型、工具调用与推测解码[8][9]。
2026年4月,LM Studio的开发商Element Labs收购了Locally AI,[10]其开发者加入该公司,负责在Apple设备上开发原生AI应用[10]。
功能
[编辑]LM Studio提供一个集成界面,用于查找与下载AI模型、将模型载入内存、配置推理设置,并通过聊天界面与模型交互。模型可以通过Hugging Face等仓库的集成获取[11]。该应用还可以使用检索增强生成,将本地文档作为上下文提供给语言模型[11]。
该软件可以充当本地的推理服务器,使应用能够通过LM Studio的REST API或仿照OpenAI与Anthropic API的兼容接口访问已加载的模型[4]。其Python与TypeScript软件开发套件提供编程式的模型加载、文本生成、嵌入与智能体工具调用[3]。
LM Studio也可以在没有图形界面的情况下运行。其无头组件llmster将LM Studio核心运行时打包,作为本地计算机、服务器与GPU系统上的后台服务使用[12]。
相关软件与服务
[编辑]LM Studio已从最初的桌面应用扩展出更多软件与服务。LM Link允许远程访问另一台计算机上运行的模型,[12]其移动端软件则源于2026年对Locally AI的收购[10]。
该公司还开发了Bionic,一个可调用本地模型的人工智能代理,用于文档创建、计算机编程、工作流自动化与计算机交互,可通过LM Studio运行时使用本地运行的模型[13]。
评价
[编辑]PCWorld将LM Studio列为在本地运行语言模型的应用之一,并着重介绍了其模型选择、配置控制、开发者界面与对检索增强生成的支持,同时称它更面向高级用户而非初学者[11]。
在与Ollama的对比中,《Windows Central》强调了LM Studio的图形界面,以及其对使用集成AMD与Intel显卡的系统进行GPU加速的支持,称其为发现、安装与交互本地语言模型的统一环境[14]。
LM Studio也被用于本地AI软件的研究。2026年一项数字取证研究将LM Studio与Ollama和llama.cpp进行对比,检查这些应用留下的痕迹,包括模型缓存、配置数据、提示历史、日志与网络活动[15]。
参见
[编辑]外部链接
[编辑]参考文献
[编辑]- ^ 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英语).
- ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英语).
- ^ 3.0 3.1 3.2 How to run gpt-oss locally with LM Studio. OpenAI. 2025-08-07 [2026-08-13] (英语).
- ^ 4.0 4.1 Route Local Inference Requests to LM Studio. Nvidia. [2026-08-13] (英语).
- ^ LM Studio is free for use at work. LM Studio. [2026-08-11] (英语).
- ^ LM Studio 0.3.0. LM Studio. [2026-08-11] (英语).
- ^ LM Studio 0.3.4 ships with Apple MLX. LM Studio. 2024-10-08 [2026-08-11] (英语).
- ^ LM Studio 0.3.5. LM Studio. [2026-08-11] (英语).
- ^ LM Studio 0.3.6. LM Studio. 2025-01-06 [2026-08-11] (英语).
- ^ 10.0 10.1 10.2 Locally AI, an app for running local AI on iPhones, has been acquired by LM Studio. GIGAZINE. 2026-04-10 [2026-08-13] (英语).
- ^ 11.0 11.1 11.2 4 free AI chatbots you can run directly on your PC. PCWorld. 2025-02-18 [2026-08-11] (英语).
- ^ 12.0 12.1 LM Studio's LM Link: Local AI Everywhere. Dell. 2026-04-02 [2026-08-13] (英语).
- ^ LM Studio Bionic has been released, allowing users to use local AI models as AI agents. It supports coding and slide creation, and also allows the use of cloud models. GIGAZINE. 2026-07-17 [2026-08-13] (英语).
- ^ You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. Windows Central. 2025-08-19 [2026-08-11] (英语).
- ^ Murtuza, Shariq. Forensic Implications of Localized AI: Artifact Analysis of Ollama, LM Studio, and llama.cpp. 2026. arXiv:2603.23996
[cs.CR].