LM Studio
LM Studio是一款面向本地环境的大型语言模型运行软件，支持用户在个人计算机上下载、管理和运行开源大语言模型，无需依赖云端服务。其提供图形化操作界面，降低本地部署门槛，同时内置兼容OpenAI API格式的本地服务器功能，便于开发者将本地模型集成至各类应用中。适用于注重数据隐私或希望离线使用AI能力的个人用户与开发者。
核心事实
时间轴 (近 90 天)
Ollama、LM Studio、Open WebUI、Docker Model Runner、LocalAI、TabbyAPI 属于封装层工具，不改变底层能力，只提供调用便利性。
本地大模型指通过Ollama、LM Studio等工具在个人电脑上离线运行的模型（如Llama、Qwen等系列）。
LM Studio 新增 MLX 引擎，搭载 Apple Silicon 的 Mac 用户可直接在应用中加载和使用已有的 MLX 模型，新引擎大小约为 309 兆。
虽然 Ollama 和 LM Studio 都基于 LLaMA.cpp，但 Ollama 的 decode 比 LM Studio 快 5% 到 10%，而 LM Studio 的 prefill 填充会更快。
将本地模型接入VS Code可通过第三方插件（如Continue、LM Studio的Copilot扩展）或VS Code原生“管理语言模型”功能（自定义端点指向LM Studio）实现，后者无需登录云端账号。
Cline Desktop v0.0.49 新增 Local Models 设置页，用于管理 Ollama 和 LM Studio 模型，提供配置指引、模型详情与存储占用，并在 composer 中显示已加载模型的内存消耗。
可以通过 LM Studio 对接 Codex，替换 Codex 配置文件中的模型名称字段并以指定命令行参数启动 LM Studio 完成配置。
测试中一个模型在比较 AAPL 和 TSLA 时 prompt 超过 32K tokens，LM Studio 在无报错的情况下截断了部分内容，导致模型把苹果的当日涨跌算错。
七个原始 SerpApi JSON 响应合计 326949 tokens，接近 32K 上下文窗口的 10 倍；同样七个响应转成 Markdown 后为 71244 tokens，缩小了 4.6 倍，且没有任何一个单独超过 32K 窗口。
本地部署时上下文窗口上限通常由加载模型时设置的 n_ctx 决定，超出部分会被截断而非报错；多数推理引擎在 prompt 超过 n_ctx 时默认从头部或尾部丢弃 token，造成静默截断。
还有 40 条时间轴事件
全部知识事实 (20)
GGUF 格式由 llama.cpp 项目引入，专为 CPU 推理场景优化
90%已验证GGUF 已成为 llama.cpp、Ollama、LM Studio 等主流本地推理工具的事实标准格式
85%已验证Ollama提供类似Docker的一键式模型管理体验，vLLM通过PagedAttention实现高吞吐量批量推理，LM Studio面向桌面用户提供图形化界面
80%已验证LM Studio 是一款自带图形界面的本地模型工具，将模型搜索、下载、加载、聊天和参数设置整合到图形界面中
75%已验证Ollama 和 LM Studio 是基于 Llama.cpp 项目催生的衍生工具
70%已验证LM Studio提供图形化界面，适合不熟悉命令行的用户
70%已验证llama.cpp项目让量化模型在各种硬件上本地推理成为可能，MLC-LLM专注于移动端编译优化
70%已验证Ollama、LM Studio、vLLM、LocalAI等本地推理框架都兼容OpenAI的Chat Completions API接口
70%已验证在LM Studio中模型必须放置在子文件夹内，否则无法正确读取GGUF模型文件
65%已验证LM Studio内置的Local Service功能可开启标准OpenAI格式接口，默认端口为1234，同时兼容Claude Code格式访问
65%已验证Ollama、LM Studio等本地模型部署工具的普及降低了搭建智能工作流的门槛
65%已验证llama.cpp是底层推理引擎，可直接使用以追求极致性能
65%已验证Ollama 的 RESTful API Server 默认监听 localhost:11434
65%已验证Ollama以命令行工具为核心，通过标准化模型格式GGUF和REST API接口管理运行本地语言模型；LM Studio提供图形化界面
65%已验证Ollama默认使用GGUF格式，常见量化格式还包括GPTQ
65%已验证llama.cpp 支持 CPU+GPU 混合推理，通过 --n-gpu-layers 参数控制卸载到 GPU 的层数，并内置兼容 OpenAI API 格式的 HTTP 服务端
65%已验证LM Studio默认API接口地址为http://localhost:1234/v1
65%已验证Groq、Together AI、Mistral以及Ollama、LM Studio等本地部署方案都选择兼容OpenAI的API格式
65%已验证Ollama、LM Studio等工具降低了本地部署开源模型的门槛
65%待验证Alex AI支持接入云端大模型API（如DeepSeek）和本地部署大模型两种方式
95%