从 Qwen 蒸馏到登顶开源榜:小米这波“打不过就加入”,真香了?
【免费下载链接】MiMo-V2.6-Distill-Qwen-9B项目地址: https://ai.gitcode.com/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B
最近科技圈有件挺有意思的事:小米把自家最强的模型 MiMo-V2.6 拿出来“直播训练”,六天时间烧掉的钱,够在北京三环买套不错的房子。更让人意外的是,最后开源出来的那个 9B 小模型,居然是站在阿里 Qwen 的肩膀上做出来的。
消息一出,评论区直接分成两派。一派说“这不就是抄作业换了个名字”,另一派说“能抄出全班第一,那也是本事”。
那么问题来了:小米到底做对了什么?这个只有 90 亿参数的“小个子”,凭什么敢和动辄几千亿、上万亿参数的巨头掰手腕?
一、先搞明白:蒸馏到底是个啥?
你可以把大模型想象成一位学识渊博但特别费钱的老教授,而蒸馏,就是让这位老教授把自己的解题思路、踩过的坑、独门技巧,一条条讲给一个年轻学生听。
学生不用再从头读几万本书,直接学老师的“解题手感”就行。这就是“蒸馏”最朴素的意思——不是把老师的脑子复制过来,而是把老师“怎么想问题”这套方法学到手。
小米这次选中的“学生”,是阿里的 Qwen3.5-9B,一个 90 亿参数、本身底子不错的开源模型。然后小米用自家大模型“产”出的高质量数据,给这个学生做了一场高强度的特训。
打个比方:Qwen 是一副好身板,小米提供的是私教课和营养餐。身板是别人的,但肌肉是练出来的。
二、为什么不自研?这笔账其实很实在
很多人第一反应是:小米不是有钱吗,干嘛不从头训一个?
因为从头训一个大模型,就像从零开始造一台发动机——不是造不出来,而是时间、算力、试错成本三座大山压着。
而基于成熟开源模型做二次训练,好处是立竿见影的:省掉了最烧钱的基础预训练阶段,可以直接把资源全部砸在“怎么让它更会干活”上。更关键的是,Qwen 生态成熟,工具链、部署方案、开发者习惯都是现成的,模型练出来立刻就能用,不用再等整个配套体系跟上。
所以这更像是“借力打力”:别人已经修好了高速公路,小米负责造一辆跑得更快的车。
至于“打不过就加入”这句调侃,其实说反了——真正的高手,从来不介意站在巨人肩膀上,他们介意的是站上去之后有没有比巨人看得更远。
三、这个 9B 小模型,到底强在哪?
光说哲学太虚,我们看几个特别直观的数字对比。左边是原来的 Qwen3.5-9B,右边是小米特训后的版本:
写代码修 Bug 的能力,在一项接近真实工程场景的测试里,从 32 分直接干到 44.6 分。这个提升幅度,差不多相当于一个刚入行的实习生,突然有了三年项目经验。
在小米自建的代码测试集上,从 19.5 分飙到 51.6 分,涨了 1.6 倍多。这种提升不是“多背了几道题”,而是真的会拆解任务、会调用工具、会自己检查错误。
最能说明问题的,是“替人干活”的能力。在一项模拟办公自动化的测试里,分数从 5 分涨到 30.3 分;在模拟真实岗位任务的测试里,从 2.6 分涨到 18.3 分。翻译成人话就是:以前它只会陪你聊天,现在它能自己打开软件、填表格、跑流程。
还有个容易被忽略的亮点——安全攻防。相关测试从 5.7 分跃升到 31.3 分。这意味着它不只会写代码,还能帮着找漏洞、看风险。
四、藏在背后的“私教课”,才是真正的杀手锏
这次特训一共“喂”了 774 亿个词元的数据,但真正参与学习的只有 272 亿。为什么差这么多?
因为小米的做法是:只让模型学“值得学”的部分。就像给学生看一百本书,但只在关键段落上画重点,其余的当背景音。这样既省算力,又不会把模型带偏。
更狠的是数据的“配方”。代码、安全、通用智能体、视觉编程四大类,比例经过精心调配,谁也不压过谁。结果就是这个 9B 的小模型不仅会写代码,还能看图、能理解界面、能处理长达 26 万字的长文档。
一个 90 亿参数的模型,做到了很多人以为只有千亿模型才敢想的事。
顺带说一句,小米这次把训练过程直接开直播,负责人罗福莉说团队“沉寂半年只钻研一件事”——强化学习到底能走多远。这种把实验室大门敞开的做法,在国产大模型圈子里还真不多见。网友调侃说,这是“把内卷现场直播给全世界看”。
五、普通人能碰到它吗?门槛比想象中低
这是最关键的问题。答案是:比你想的低很多。
首先,它是完全开源的,许可证宽松到可以商用。这意味着任何一家公司、任何一个独立开发者,都能把它拿去改成自己的专属助手。
其次,90 亿参数这个体量,属于“消费级显卡勉强能伺候”的范畴。一台配置还行的带显卡电脑,或者一张租来的云显卡,就能把它跑起来。不用凑一整个机房。
再次,它天生是个“干活型”选手。会写代码、会操作工具、会看截图、会处理长文档,这些能力对应的正是普通人最想解决的麻烦事:
- 自媒体创作者:让它帮忙整理素材、改标题、批量处理文案
- 办公白领:让它读长报告、填表格、跑重复流程
- 学生党:让它讲解题目、检查作业思路
- 科技发烧友:本地部署一个私有的 AI 助手,数据不出门
它有“思考模式”,遇到复杂问题会先在心里打草稿再回答。对于数学题、逻辑推理这类容易翻车的场景,这个功能相当实用。
六、写在最后:这条路,可能才刚刚开始
回头看小米这步棋,其实挺聪明。
不自研基座,省下了最贵的时间和算力;用自家强模型产数据做蒸馏,把“经验”变成了可复制的资产;开源出来,又顺手把开发者生态拉到自己这边。花一份钱,办了三件事。
当然,质疑也不是没有道理。基座是别人的,意味着上限多少受制于人;蒸馏出来的能力,在极端复杂的任务上能不能扛住,也还需要更多真实场景去验证。
但有一点可以确定:当“从头造轮子”不再是唯一正确的答案,当“站在巨人肩膀上再往前跳一步”也被认可,整个行业的节奏都会变快。对普通用户来说,这意味着更好用、更便宜的 AI 工具,会来得比预期更早。
那么问题留给你:如果有一个 9B 的模型,能装在自己电脑上、不上传任何数据、还能帮你写代码改文案,你会愿意试试吗?还是说,你依然更信任那些参数大到吓人的“巨无霸”?
评论区聊聊,你站哪一边。
【免费下载链接】MiMo-V2.6-Distill-Qwen-9B项目地址: https://ai.gitcode.com/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考