6 月 7 日,阿里发布了 Qwen2。从 0.5B 的小杯到 72B 的超大杯,五个尺寸一次性全开源,还支持 32K 上下文(72B 版支持 128K)。这是 2024 年国产开源模型最重磅的一次更新。复盘一下这半年发生了什么,以及 Qwen2 到底强在哪。
插图来源:Storyset
时间线:从 Qwen1.5 到 Qwen2#
今年 2 月,阿里刚发布 Qwen1.5,主打 32 种语言、多尺寸开源,在 HuggingFace 上成了下载量最高的国产系列之一,社区口碑不错。但 4 月 Meta 开源 Llama 3,直接把开源标杆抬到了新高度——Qwen1.5 的 72B 在各项基准上被 Llama 3 70B 压了一头,中文社区一片"被超了"的声音。
Qwen2 就是这次的回应:训练数据从 3T token 加到 7T,架构优化,GQA(分组查询注意力)全系标配,代码和数学能力重点补强。72B 版本在 MMLU、C-Eval 等基准上追平甚至小超 Llama 3 70B。开源社区的评价很直接:能打,阿里把面子挣回来了。
技术上有什么真东西#
- 全尺寸开源:0.5B / 1.5B / 7B / 57B-A14B / 72B,手机端到数据中心全覆盖。0.5B 这种小模型可以跑在端侧设备上,57B-A14B 是 MoE 架构,推理成本低
- 长上下文:7B 以上支持 32K,72B 支持 128K。虽然比不上 Kimi 的 200 万字,但在开源模型里算第一梯队,日常用绰绰有余
- 多语言:29 种语言支持,对中文和英文之外的语言优化明显,出海业务可以直接用
- 可商用:Apache 2.0 协议,企业拿去微调、部署、卖钱都行,这是开源生态繁荣的基础
对普通人意味着什么#
- 本地部署党:7B 量化版普通显卡(12G 显存)就能跑,Ollama 一行命令拉起来。想体验国外闭源模型的,注册教程看这篇
- 开发者:开源可商用,微调做垂直应用(客服、法律、医疗问答)的成本大降,中小公司也能玩大模型了
- 吃瓜群众:国产模型和 Llama 的差距在缩小,2024 年开源模型正式进入"神仙打架"。对用户来说,好模型越多越便宜
和 Llama 3 的对比#
| 维度 | Qwen2-72B | Llama 3-70B |
|---|---|---|
| 中文 | 明显强 | 一般 |
| 英文/代码 | 追平 | 强 |
| 开源协议 | Apache 2.0 | 社区协议(有限制) |
| 生态 | 追赶中 | 更成熟 |
Qwen2 最大的差异化就是中文。在中文场景下,Qwen2-72B 是 2024 年 6 月开源模型里的最优选,没有之一。
Qwen2 的 5 个尺寸怎么选#
| 尺寸 | 显存需求 | 场景 |
|---|---|---|
| 0.5B | 手机可跑 | 端侧、嵌入式 |
| 1.5B | 4G | 轻量任务 |
| 7B | 12G | 个人部署、微调 |
| 57B-A14B | 40G+ | 企业级 |
| 72B | 140G+ | 旗舰、研究 |
个人玩家直接 7B,Ollama 一行命令:ollama run qwen2:7b。想体验最强,上 API(阿里云有售),比自己买卡便宜。
2024 年 6 月,Qwen2 开源,72B 版本效果追平 GPT-4 级别(部分榜单)。国产大模型,从"能用"到"好用",只用了一年。开源的意义在于:人人可部署,能力不再被云端垄断。
2024 年 6 月,Qwen2 的意义不只是"国产之光",而是开源大模型第一次在部分榜单追平 GPT-4。闭源和开源的差距,2024 年被抹平了一大块。
2024 年 6 月,Qwen2 开源,国产大模型追平 GPT-4 级别。
2024 年,Qwen2 是国产开源的里程碑。
一句话总结#
Qwen2 证明了一件事:2024 年的开源大模型,国产已经不是追赶者,而是牌桌上的玩家之一。需要国际网络用国外模型的,地区和 IP 选择照旧;想体验 AI 自己操作电脑的,Claude 的新功能也值得一看。开源越繁荣,用户越受益。