https://5py.top/tags/ollama/Recent content in Ollama on 吾便宜Hugo -- gohugo.iozh-CN© 2026 吾便宜Thu, 24 Jul 2025 11:05:00 +0800https://5py.top/posts/ollama-guide/Thu, 24 Jul 2025 11:05:00 +0800https://5py.top/posts/ollama-guide/<p>一句话介绍 Ollama：<strong>让你在自己电脑上跑大模型的工具</strong>，免费、开源、一条命令开聊。数据不出内网，断网也能用，敏感文档随便喂。这篇极简上手，外加本地和在线方案的横评。</p>https://5py.top/posts/ollama-vs-lmstudio/Fri, 19 Apr 2024 17:25:00 +0800https://5py.top/posts/ollama-vs-lmstudio/<p>2024 年本地大模型工具就两个主流选择：Ollama 和 LM Studio。都是免费，都能跑 Llama 3 这类开源模型，但气质完全不同。</p> <h2 class="relative group">一句话区分 <div id="一句话区分" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#%e4%b8%80%e5%8f%a5%e8%af%9d%e5%8c%ba%e5%88%86" aria-label="锚点">#</a> </span> </h2> <ul> <li><strong>Ollama</strong>：极客向，命令行 + 极简，走 API 路线，适合开发者和想折腾的。</li> <li><strong>LM Studio</strong>：小白向，图形界面，下载模型、调参数、聊天全在窗口里点鼠标。</li> </ul> <h2 class="relative group">对比清单 <div id="对比清单" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#%e5%af%b9%e6%af%94%e6%b8%85%e5%8d%95" aria-label="锚点">#</a> </span> </h2> <ul> <li><input disabled="" type="checkbox"> <strong>上手难度</strong>：LM Studio 胜。Ollama 要敲命令（虽然就几行），LM Studio 全图形化。</li> <li><input disabled="" type="checkbox"> <strong>模型生态</strong>：Ollama 的官方模型库整理得更好，一行命令拉模型；LM Studio 兼容 HuggingFace 的 GGUF，找模型更自由。</li> <li><input disabled="" type="checkbox"> <strong>API 能力</strong>：Ollama 胜。提供 OpenAI 兼容 API，接各种第三方工具方便，开发者首选。</li> <li><input disabled="" type="checkbox"> <strong>界面体验</strong>：LM Studio 胜。自带聊天界面，还能当本地 API 服务器，一鱼两吃。</li> <li><input disabled="" type="checkbox"> <strong>跨平台</strong>：都支持 Win / Mac / Linux，Mac 上 LM Studio 的 Metal 优化口碑不错。</li> <li><input disabled="" type="checkbox"> <strong>更新速度</strong>：2024 年两者都在快速迭代，新模型（比如 Llama 3）发布后几天内就能跑。</li> </ul> <h2 class="relative group">选型建议 <div id="选型建议" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#%e9%80%89%e5%9e%8b%e5%bb%ba%e8%ae%ae" aria-label="锚点">#</a> </span> </h2> <ul> <li>纯小白、就想在自己电脑上跟 AI 聊天：<strong>LM Studio</strong>。</li> <li>开发者、想把本地模型接进自己工具链：<strong>Ollama</strong>。</li> <li>配置要求：7B–8B 模型需要 16G 内存起步，70B 级别没有高显存显卡就别想了，<a href="https://5py.top/posts/chatgpt-plus-worth/" target="_blank" rel="noreferrer">先看懂量化</a>再决定下多大。</li> </ul> <h2 class="relative group">2024 年的 reality check <div id="2024-年的-reality-check" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#2024-%e5%b9%b4%e7%9a%84-reality-check" aria-label="锚点">#</a> </span> </h2> <p>本地跑模型好玩，但别指望替代云端：8B 小模型的水平大概相当于 GPT-3.5 级别，写代码、复杂推理还是云端强。本地的价值在于隐私（数据不出内网）和免费无限量，适合特定场景。</p>