插图来源：Storyset
Meta 在 7 月下旬发布 Llama 3.1，一口气三档：8B、70B、405B。其中 405B 是史上最大的开源模型，Meta 放话"对标 GPT-4o"。开源模型真的追平闭源了吗？横评对比。
开源 vs 闭源：对比表#
| Llama 3.1 405B | GPT-4o / Claude 3.5 | |
|---|---|---|
| 推理能力 | 接近，复杂任务略逊 | 当前顶流 |
| 上下文 | 128K | 128K~200K |
| 成本 | 自建/云托管，按量算便宜 | API 按 token 收费 |
| 可控性 | 权重开放，可微调、私有部署 | 黑盒 |
| 生态 | 社区微调版爆发中 | 插件、工具链成熟 |
三个关键升级#
- 405B 旗舰：训练用了 1.6 万张 H100，跑分上确实摸到了 GPT-4o 的尾巴；
- 128K 上下文：从 8K 直接拉到 128K，长文档场景质变；
- 多语言增强：8 种语言官方支持，中文可用性比 Llama 3 初版好不少。
普通人能玩吗#
- 405B：别想了，至少 8 张 H100 级别的资源，这是给大厂和云厂商准备的；
- 70B：发烧友可以上，2 张 24GB 显卡量化可跑；
- 8B：甜点，Ollama 一键跑，16GB 内存就行。
追平了吗？#
单项追平，综合还没。 跑分上 405B 确实咬住了 GPT-4o，但"好用"不只是跑分：工具调用、超长稳定输出、中文细节，闭源还是更顺。不过开源的真正杀招不是"更强"，而是"免费+可控"——云厂商一拥而上，API 价格战开打，最终受益的是开发者。
微调生态：开源的真正威力#
405B 本体跑不起，但它的"蒸馏"价值巨大：
- 小模型蒸馏：用 405B 生成高质量数据，训练 8B/70B，社区已经有多个"405B 蒸馏版"小模型，效果超原生；
- 领域微调：医疗、法律、代码，405B 微调的领域模型开始涌现；
- 中文微调：社区中文微调版补上了官方中文的短板，本地部署看这篇。
这就是开源的复利：一个 405B，养活一整个生态。
云部署：没显卡怎么玩 405B#
- 云厂商 API：AWS、Azure、GCP 上线第一时间跟进，按量付费比自建便宜；
- Together / Fireworks：第三方推理平台，价格只有官方 API 的零头；
- 本地 70B：退而求其次，70B 量化版 2 张 4090 可跑，LM Studio 图形化。
70B 本地部署指南：发烧友看这里#
405B 跑不起，70B 才是个人玩家的上限。硬件账先算清：
- 显存：完整精度要上百 GB，别想；量化版（Q4）约 40GB，2 张 24GB 显卡（如 4090）可跑，速度看量化等级；
- 最省事：Ollama，一行命令
ollama run llama3.1:70b，自动下载量化版； - 图形化：LM Studio，点几下鼠标，聊天界面开箱即用；
- 纯 CPU：能跑，但慢到怀疑人生，除非你只想体验"它动了"；
- 效果预期：70B 量化版比 405B 打了折，中文尤其，适合尝鲜和轻量任务，别拿它当主力写作模型。
一句话：本地跑 70B 是"为爱发电"，图的是可控和免费，图快、图强还是走云 API。
405B 云 API 平台横向对比#
| 平台 | 特点 | 适合谁 |
|---|---|---|
| AWS Bedrock / Azure / GCP | 大厂背书，企业合规，价格偏贵 | 公司项目 |
| Together AI / Fireworks | 创业公司，主打便宜，405B 按量计费 | 个人开发者尝鲜 |
| 本地 70B | 一次投入硬件，无限用 | 发烧友 |
结论：尝鲜用第三方推理平台，花小钱办大事；生产环境看合规选大厂；重度个人用户，本地 70B 长期最划算。
开源协议解读：能商用吗？#
能，但有几条红线要看清：
- 免费商用：Llama 社区许可允许个人和公司免费商用，不用给 Meta 交钱；
- 7 亿月活红线：产品月活超过 7 亿，要单独找 Meta 申请授权——个人开发者这辈子碰不到；
- 微调再分发：允许，但要在显著位置说明"基于 Llama"，名字里别直接叫 Llama；
- 训练限制：不能用 Llama 的输出去训练竞品模型，细则以官网许可文本为准；
- 对比闭源：GPT、Claude 的 API 条款限制更多，开源的"可控"正在于此。
一句话：普通开发者放心用，大厂法务自己逐条看。开源协议不是"随便用"，是"规则透明地用"。
一句话选型：你该用哪一档#
- 只想体验大模型：8B + Ollama，16GB 内存的电脑就行，10 分钟上手；
- 发烧友折腾：70B 量化版，2 张 24GB 显卡，本地私有、可断网；
- 开发者做产品：405B 云 API，按量付费，先跑通再谈成本；
- 企业/合规：大厂云平台的 405B 托管，贵但省心。
记住：模型越大不等于越适合你。先问"我要解决什么问题"，再选档位。
一句话：Llama 3.1 标志着开源和闭源进入"贴身肉搏"阶段。对普通人，记住 8B 甜点版就行；对行业，405B 的免费才是最贵的礼物。
