↓ 跳过正文
  1. 文章/
  2. 2024 年文章归档/

Qwen2 发布:通义千问的开源反击

·1296 字·3 分钟
作者
吾便宜

6 月 7 日,阿里发布了 Qwen2。从 0.5B 的小杯到 72B 的超大杯,五个尺寸一次性全开源,还支持 32K 上下文(72B 版支持 128K)。这是 2024 年国产开源模型最重磅的一次更新。复盘一下这半年发生了什么,以及 Qwen2 到底强在哪。

Qwen2 开源模型发布

插图来源:Storyset

时间线:从 Qwen1.5 到 Qwen2
#

今年 2 月,阿里刚发布 Qwen1.5,主打 32 种语言、多尺寸开源,在 HuggingFace 上成了下载量最高的国产系列之一,社区口碑不错。但 4 月 Meta 开源 Llama 3,直接把开源标杆抬到了新高度——Qwen1.5 的 72B 在各项基准上被 Llama 3 70B 压了一头,中文社区一片"被超了"的声音。

Qwen2 就是这次的回应:训练数据从 3T token 加到 7T,架构优化,GQA(分组查询注意力)全系标配,代码和数学能力重点补强。72B 版本在 MMLU、C-Eval 等基准上追平甚至小超 Llama 3 70B。开源社区的评价很直接:能打,阿里把面子挣回来了。

技术上有什么真东西
#

  1. 全尺寸开源:0.5B / 1.5B / 7B / 57B-A14B / 72B,手机端到数据中心全覆盖。0.5B 这种小模型可以跑在端侧设备上,57B-A14B 是 MoE 架构,推理成本低
  2. 长上下文:7B 以上支持 32K,72B 支持 128K。虽然比不上 Kimi 的 200 万字,但在开源模型里算第一梯队,日常用绰绰有余
  3. 多语言:29 种语言支持,对中文和英文之外的语言优化明显,出海业务可以直接用
  4. 可商用:Apache 2.0 协议,企业拿去微调、部署、卖钱都行,这是开源生态繁荣的基础

对普通人意味着什么
#

  • 本地部署党:7B 量化版普通显卡(12G 显存)就能跑,Ollama 一行命令拉起来。想体验国外闭源模型的,注册教程看这篇
  • 开发者:开源可商用,微调做垂直应用(客服、法律、医疗问答)的成本大降,中小公司也能玩大模型了
  • 吃瓜群众:国产模型和 Llama 的差距在缩小,2024 年开源模型正式进入"神仙打架"。对用户来说,好模型越多越便宜

和 Llama 3 的对比
#

维度Qwen2-72BLlama 3-70B
中文明显强一般
英文/代码追平强
开源协议Apache 2.0社区协议(有限制)
生态追赶中更成熟

Qwen2 最大的差异化就是中文。在中文场景下,Qwen2-72B 是 2024 年 6 月开源模型里的最优选,没有之一。

Qwen2 的 5 个尺寸怎么选
#

尺寸显存需求场景
0.5B手机可跑端侧、嵌入式
1.5B4G轻量任务
7B12G个人部署、微调
57B-A14B40G+企业级
72B140G+旗舰、研究

个人玩家直接 7B,Ollama 一行命令:ollama run qwen2:7b。想体验最强,上 API(阿里云有售),比自己买卡便宜。

2024 年 6 月,Qwen2 开源,72B 版本效果追平 GPT-4 级别(部分榜单)。国产大模型,从"能用"到"好用",只用了一年。开源的意义在于:人人可部署,能力不再被云端垄断。

2024 年 6 月,Qwen2 的意义不只是"国产之光",而是开源大模型第一次在部分榜单追平 GPT-4。闭源和开源的差距,2024 年被抹平了一大块。

2024 年 6 月,Qwen2 开源,国产大模型追平 GPT-4 级别。

2024 年,Qwen2 是国产开源的里程碑。

一句话总结
#

Qwen2 证明了一件事:2024 年的开源大模型,国产已经不是追赶者,而是牌桌上的玩家之一。需要国际网络用国外模型的,地区和 IP 选择照旧;想体验 AI 自己操作电脑的,Claude 的新功能也值得一看。开源越繁荣,用户越受益。

相关文章

Flux.1 发布:开源生图王座易主

·1651 字·4 分钟
插图来源:Storyset 2024 年 8 月 1 日,AI 绘画圈地震:Black Forest Labs 发布 Flux.1,开源生图模型的王座,易主了。 清单:Flux.1 是谁 # 出品方:Black Forest Labs,创始团队是 Stable Diffusion 的核心原班人马(从 Stability AI 出走)。 版本:Flux.1 Pro(闭源,最强)、Dev(开源可商用,需申请)、Schnell(开源,Apache 协议,随便用)。 亮点:120 亿参数,文本渲染准(海报字不再乱码)、手部细节好、提示词理解强。 口碑:发布即屠榜,多项盲测超过 Midjourney v6 和 DALL-E 3。 SD vs Flux:王座为什么易主 # Stability AI 动荡:2024 年 SD 团队核心出走、CEO 换人,SD3 发布后反响平平(人体结构问题被群嘲)。 Flux 接棒:原班人马另起炉灶,Flux.1 就是"SD 精神续作",社区无缝迁移。 生态:发布几周内,ComfyUI、Forge 等主流工具全量支持,上手零门槛。 本地部署:配置要求 # 版本 显存要求 说明 Schnell(量化) 8G+ 速度快,画质略降 Dev(fp16) 16G+ 完整画质 Dev(量化) 12G 折中选择 工具推荐 ComfyUI 或 Forge,2024 年 8 月发布后两周内就都支持了。没显卡?用在线聚合站,免费额度够玩。

Llama 3.1 405B:开源模型追平闭源?

·1780 字·4 分钟
插图来源:Storyset Meta 在 7 月下旬发布 Llama 3.1,一口气三档:8B、70B、405B。其中 405B 是史上最大的开源模型,Meta 放话"对标 GPT-4o"。开源模型真的追平闭源了吗?横评对比。

o1 正式版与 Pro 档:200 美元档值吗

·1938 字·4 分钟
插图来源:Storyset OpenAI 在 12 月初的"12 天发布会"开幕当天,发布了 o1 正式版,并同步推出 200 美元/月的 ChatGPT Pro。200 美元,10 倍于 Plus,AI 订阅的天花板被捅穿了。这钱到底贵在哪?对比+复盘。

Gemini 2.0 发布:谷歌的反击

·2039 字·5 分钟
插图来源:Storyset 2024 年 12 月 11 日,谷歌发布 Gemini 2.0。从 2 月的 1.5 到 12 月的 2.0,谷歌用一年时间完成了追赶。这次发布会的核心词就一个:Agent。横向对比一下,看看谷歌能不能翻盘。