↓ 跳过正文

Qwen2 发布:通义千问的开源反击

·1296 字·3 分钟
作者
吾便宜

6 月 7 日,阿里发布了 Qwen2。从 0.5B 的小杯到 72B 的超大杯,五个尺寸一次性全开源,还支持 32K 上下文(72B 版支持 128K)。这是 2024 年国产开源模型最重磅的一次更新。复盘一下这半年发生了什么,以及 Qwen2 到底强在哪。

Qwen2 开源模型发布

插图来源:Storyset

时间线:从 Qwen1.5 到 Qwen2
#

今年 2 月,阿里刚发布 Qwen1.5,主打 32 种语言、多尺寸开源,在 HuggingFace 上成了下载量最高的国产系列之一,社区口碑不错。但 4 月 Meta 开源 Llama 3,直接把开源标杆抬到了新高度——Qwen1.5 的 72B 在各项基准上被 Llama 3 70B 压了一头,中文社区一片"被超了"的声音。

Qwen2 就是这次的回应:训练数据从 3T token 加到 7T,架构优化,GQA(分组查询注意力)全系标配,代码和数学能力重点补强。72B 版本在 MMLU、C-Eval 等基准上追平甚至小超 Llama 3 70B。开源社区的评价很直接:能打,阿里把面子挣回来了。

技术上有什么真东西
#

  1. 全尺寸开源:0.5B / 1.5B / 7B / 57B-A14B / 72B,手机端到数据中心全覆盖。0.5B 这种小模型可以跑在端侧设备上,57B-A14B 是 MoE 架构,推理成本低
  2. 长上下文:7B 以上支持 32K,72B 支持 128K。虽然比不上 Kimi 的 200 万字,但在开源模型里算第一梯队,日常用绰绰有余
  3. 多语言:29 种语言支持,对中文和英文之外的语言优化明显,出海业务可以直接用
  4. 可商用:Apache 2.0 协议,企业拿去微调、部署、卖钱都行,这是开源生态繁荣的基础

对普通人意味着什么
#

  • 本地部署党:7B 量化版普通显卡(12G 显存)就能跑,Ollama 一行命令拉起来。想体验国外闭源模型的,注册教程看这篇
  • 开发者:开源可商用,微调做垂直应用(客服、法律、医疗问答)的成本大降,中小公司也能玩大模型了
  • 吃瓜群众:国产模型和 Llama 的差距在缩小,2024 年开源模型正式进入"神仙打架"。对用户来说,好模型越多越便宜

和 Llama 3 的对比
#

维度Qwen2-72BLlama 3-70B
中文明显强一般
英文/代码追平强
开源协议Apache 2.0社区协议(有限制)
生态追赶中更成熟

Qwen2 最大的差异化就是中文。在中文场景下,Qwen2-72B 是 2024 年 6 月开源模型里的最优选,没有之一。

Qwen2 的 5 个尺寸怎么选
#

尺寸显存需求场景
0.5B手机可跑端侧、嵌入式
1.5B4G轻量任务
7B12G个人部署、微调
57B-A14B40G+企业级
72B140G+旗舰、研究

个人玩家直接 7B,Ollama 一行命令:ollama run qwen2:7b。想体验最强,上 API(阿里云有售),比自己买卡便宜。

2024 年 6 月,Qwen2 开源,72B 版本效果追平 GPT-4 级别(部分榜单)。国产大模型,从"能用"到"好用",只用了一年。开源的意义在于:人人可部署,能力不再被云端垄断。

2024 年 6 月,Qwen2 的意义不只是"国产之光",而是开源大模型第一次在部分榜单追平 GPT-4。闭源和开源的差距,2024 年被抹平了一大块。

2024 年 6 月,Qwen2 开源,国产大模型追平 GPT-4 级别。

2024 年,Qwen2 是国产开源的里程碑。

一句话总结
#

Qwen2 证明了一件事:2024 年的开源大模型,国产已经不是追赶者,而是牌桌上的玩家之一。需要国际网络用国外模型的,地区和 IP 选择照旧;想体验 AI 自己操作电脑的,Claude 的新功能也值得一看。开源越繁荣,用户越受益。