Ollama vs LM Studio:你的模型栖身的两个车库
要图形界面浏览聊天,还是要可脚本化的本地 API 服务器——两个车库都走了一遍,许可证与速度已有定论,每条命令今天就能跑。
■ space · 两个车库
要图形界面浏览和聊天 → LM Studio. 要可脚本化的本地 API 服务器 → Ollama。大多数人两个都留。
许可证替团队做决定:Ollama 是 MIT,工作使用免费;LM Studio 是闭源的,工作用途需要许可证。
速度打平——两者都靠 llama.cpp。按界面、许可证和无头需求来选。
巡 库
说出你的来意,车库会回答你。
结论: Ollama——服务型车库。开机自启,在 :11434 上应答,你的机器全程不碰鼠标。
OLLAMA · 服务型车库
pull、run、serve——无需窗口
# the whole handshake
curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen2.5-coder:7b
curl http://localhost:11434/api/chat -d '{
"model": "qwen2.5-coder:7b",
"messages": [{"role":"user","content":"Explain bash exit codes in two lines"}],
"stream": false
}'
LM STUDIO · 展厅车库
浏览、聊天、折腾——每个旋钮都够得着
# Developer tab → start server — or the lms CLI
lms server start
lms load qwen2.5-coder-7b-instruct --gpu max
curl http://localhost:1234/v1/chat/completions \\
-H "Content-Type: application/json" \\
-d '{"model":"qwen2.5-coder-7b-instruct","messages":[{"role":"user","content":"Write a jq filter for the top process by CPU"}]}'
许可证抽屉:Ollama 是 MIT——你只欠模型的许可证(Llama、Mistral、Qwen、Gemma 各有各的条款)。LM Studio 个人使用免费;工作用途走它免费的 work 许可标记,收入超过门槛的公司要付费。采购会问——这一行终结争论。
处理器那一列在告诉你什么
Ollama 启动时探测 CUDA、Metal 和 ROCm,把装得下的层全部卸给显卡。检验只要一条命令——答案只有一个词。翻过来看:
ollama ps → 100% GPU——每一层都住在卡上。生成速度就是这个硬件的极限。
# what did Ollama actually load — GPU or CPU?
ollama ps
# force the issue if it silently fell back to CPU:
OLLAMA_NUM_GPU=999 ollama run qwen2.5-coder:7b
OLLAMA_NUM_GPU 会覆盖层数——数字大:全部上卡;0:只用 CPU。这只是探针——真正的解法是换一个装得下的量化版本。
LM Studio 把同样的控制做成每个模型一个的GPU 卸载滑块——更适合上手试,这是它确实更贴心的地方之一。
速度问题,就此了结
同一模型、同一量化、同一硬件:打平——两者都委托给 llama.cpp。声称有差距的对比,往往比的是不同量化或不同上下文长度。在你自己的机器上量:
# Ollama: --verbose prints eval rate (tokens/sec) at the end
ollama run qwen2.5-coder:7b --verbose "Summarise what a Makefile does in one sentence."
在 LM Studio 里,用相同的上下文和 GPU 层数加载同一个 GGUF;在统计面板看 tokens/s。跑两次——第一次是预热噪声。
找到你的那一行
| 维度 | Ollama | LM Studio |
|---|---|---|
| Interface | CLI + REST API | 完整桌面 GUI |
| Open source | MIT,彻底 | 闭源,个人档免费 |
| 商用 | 免费 | 规模化后需付费许可 |
| 模型管理 | ollama pull <model> | 内置搜索 + 下载浏览器 |
| 聊天界面 | 无(自带) | 内置 |
| API 端点 | 常驻 :11434 | 可开关 :1234 |
| 无头/服务器用途 | Excellent | 别扭 |
| Windows / macOS / Linux | 三者全有 | Windows + macOS,Linux 测试中 |
经验法则,怎么选都不后悔:
- 你想用模型——聊天、试用、玩滑块:LM Studio.
- 你想构建模型——脚本、智能体、CI、家庭 API 服务:Ollama.
- 两个都想要——那就都装;它们能和平共处。只是别让两个服务器抢同一个端口,还要记住:同一个模型加载两次,显存也吃两次。
两家都认 GGUF、驱动同一血脉——Ollama 内嵌 llama.cpp;LM Studio 用的是基于 llama.cpp 的运行时。同一文件,同样输出;工具的差异在模型之外。
本地模型与智能体编程工具尤其般配:把兼容 OpenAI 的客户端指向你的端点——无限补全,零按 token 计费。唯一的账单是电费。
两个车库到此为止 · 未取一分毫 · 一切皆本地