人工智能基础层这个名词,圈内人听得多了,但真要给个清晰定义,能脱口而出的人其实不多。2021年这份行业研究报告盯住的就是这个容易被忽略、却决定了整个AI产业天花板的环节。算力、数据、算法框架,这三样东西组成了基础层的全部家底,也是所有人工智能应用跑得动、跑得稳、跑得省的底层前提。这篇内容适合做技术选型的人、投AI赛道的朋友、以及想搞清楚AI产业到底靠什么赚钱的从业者参考。
我当时拿到这份报告的第一反应是,总算有人认真梳理这个“卖铲人”赛道了。过去几年聚光灯全打在应用层那些炫酷的Demo上,但真正卡脖子的、真正烧钱的、真正决定行业话语权的,恰恰是最不性感的这一层。
1. 基本盘拆解:基础层的核心要素与行业定位
1.1 算力、数据、算法框架的三角结构
人工智能基础层通常被拆成三个核心板块:算力、数据、算法框架。这三者不是简单的并列关系,而是一条紧密咬合的产业链。
算力是底座中的底座。没有足够的计算资源,再好的算法也只是一堆数学公式躺在论文里。2021年这个时间点,深度学习模型的参数量已经从百万级跃升到千亿级,GPT-3的1750亿参数把算力需求推到了一个新的量级。单靠CPU已经无法承担这种规模的并行计算任务,GPU、NPU、FPGA这些异构计算芯片成了主角。
数据是燃料。算法再强,喂进去的数据质量不行,输出就是一个灾难现场。数据采集、清洗、标注、增强,每一个环节都在影响模型的天花板。2021年行业里有一个很扎心的共识:中国企业不缺数据,缺的是高质量的结构化标注数据。
算法框架是连接数据和算力的桥梁。TensorFlow、PyTorch这些深度学习框架,本质上就是把底层的算子、显存管理、分布式调度这些脏活累活封装起来,让算法工程师能把精力放在模型设计本身。框架的生态粘性极强,一旦一个团队用熟了PyTorch,迁移成本会高到让你怀疑人生。
1.2 为什么基础层是AI产业的“卖铲人”
淘金热时代最赚钱的不是淘金客,而是卖铲子的人。AI产业的底层逻辑也是一模一样的逻辑。做应用的公司需要不停面对市场变化、客户需求波动、商业模式验证这些不确定性,而基础层的公司只要做好一件事:把算力、数据、工具链做到极致,然后坐收行业增长的红利。
英伟达是教科书级的卖铲人。2021年,全球AI训练芯片市场英伟达占据超过80%的份额,A100 GPU一度到了有钱也买不到的程度。云服务商不管是哪一家,最终采购高性能计算卡时都绕不开它。这种“卡脖子”式的地位,让英伟达的毛利率常年维持在60%以上,比大多数做应用的公司活得滋润太多。
不过基础层的玩家也不是高枕无忧。这个赛道的特点是技术门槛高、资本投入大、回报周期长。芯片设计动辄几十亿美元的研发投入,数据中心基础设施一建就是上百亿的固定资产投资,数据标注则是典型的人力密集型生意,毛利率被人工成本压得死死的。
2. 算力赛道深度解读:芯片与服务器的竞争格局
2.1 英伟达的统治地位与国产芯片的突围战
2021年的AI芯片市场,用一句话概括就是英伟达吃肉,其它玩家喝汤。CUDA生态经过十几年的积累,已经把开发者牢牢绑在自己的平台上。哪怕是AMD的MI系列或者Google的TPU在纯算力指标上已经接近甚至局部超越了英伟达产品,开发者依然会用脚投票选择CUDA——因为迁移成本太高了,工程团队没有精力去重写那些深挖性能的底层代码。
国产芯片这边,华为昇腾、寒武纪、海光、景嘉微这几家是最常被拿出来讨论的。昇腾910的FP16算力在纸面上可以对标A100,这在2021年的国产芯片里已经是相当能打的表现了。但产业落地时遇到的现实问题不在芯片本身,而在于软件栈的成熟度。昇腾的CANN生态对标的是CUDA,差距不是一天两天能追平的,需要大量的开发者使用反馈来迭代。
寒武纪走的是另外一条路,思元系列芯片在推理场景有些独特的优势,但公司持续的亏损让市场对它的商业模式一直存有疑虑。海光和景嘉微则是从服务器CPU和图形GPU的路径切进来,走的都是渐进式的路线。
我听圈子里的朋友聊过一个真实的选型经历:某大型AI公司做技术调研,把国产芯片的SDK文档和英伟达的对比了一下,最终结论是项目周期太紧,切换的风险不可控,继续采购英伟达——哪怕交期和价格都是问题。这其实就是2021年市场的缩影,不是国产芯片性能不行,而是生态成熟度决定了商业决策的走向。
2.2 服务器、边缘计算与数据中心基础设施
芯片之外,算力基础设施还有服务器和数据中心这两个大头。AI服务器的架构和普通服务器有本质差别,最大的特点就是需要支持多卡高速互联。NVLink和NVSwitch就是英伟达为了解决多GPU通信瓶颈搞出来的私有协议,效果确实好,但也是封闭生态的一部分。国产服务器厂商如浪潮、宁畅、新华三在AI服务器这块做得不少,但在利润分配上依然要看芯片供应商的脸色。
数据中心的PUE(电源使用效率)在2021年成为了行业热词。国家对新建数据中心的PUE提出了明确要求,一线城市基本要控制在1.3以下。AI训练任务的功耗密度是传统业务的好几倍,单机柜的功率已经从原来的5kW左右上升到了20kW甚至更高。散热技术从风冷向液冷过渡,成了2021年数据中心建设的一个关键趋势。
边缘计算是另一个被反复提及的方向。大规模的模型训练集中部署在云端,但推理环节很多场景需要靠近数据源。安防摄像头需要实时识别,工厂产线需要毫秒级响应,车端自动驾驶更是要求计算平台和传感器绑定在一起。算力下沉到边缘节点,带来的不仅是更低时延,还有数据隐私合规上的天然优势。
我这里有一份2021年算力基础设施的关键参数对比,可以直观感受一下不同层级的差异:
| 设备类型 | 代表产品 | 算力指标 | 典型场景 | 当前瓶颈 |
|---|---|---|---|---|
| 训练级GPU | 英伟达A100 | FP16约312 TFLOPS | 云端大模型预训练 | 供货紧张、价格高企 |
| 国产训练芯片 | 昇腾910 | FP16约320 TFLOPS | 政企客户AI训练 | 软件生态成熟度不足 |
| 边缘推理卡 | 耘途、昇腾310 | INT8约几十TOPS | 安防、工业质检 | 算子适配数量偏少 |
| AI服务器 | 浪潮NF5688 | 支持8卡A100 | 大规模集群训练 | 功耗密度散热压力大 |
3. 数据与算法框架:容易被低估的两块拼图
3.1 数据标注产业的工业化进程
数据标注是基础层里最不起眼、但体量最大的一个环节。2021年国内的AI数据标注市场已经跑出了云测数据、海天瑞声、星尘数据等一批头部企业。这个行业听起来门槛低——拉一批人对着图片画框框嘛——但实际上质量管理和项目管理的能力决定了标注企业的生死。
数据标注最大的坑在于质量标准的一致性。同样是画一个行人检测框,不同标注员拉出来的框大小可能差上好几个像素。这些微小的差异看起来不起眼,但对模型训练的影响是累积性的。好的标注平台会设计一套“标注-质检-抽检-返修”的完整流程,通过多人交叉标注、算法预标注、规则校验这些手段把错误率降下来。
从成本结构上看,2021年数据标注行业的人力成本占比依然超过70%。自动标注工具虽然在快速发展,但在复杂的3D点云标注、语义分割这些场景下,机器能做的还很有限。一个自动驾驶项目的激光雷达点云数据,单帧标注的成本可能高达几十块钱,一套完整的数据集做下来,百万级别的投入是很正常的。
我在和一位做标注平台的朋友聊天时他提到一个很有意思的细节:2021年最大的增量需求不是来自互联网大厂,而是来自智能制造和智慧城市这两个方向的AI公司。传统制造业的数据往往分散在各类老旧系统里,格式五花八门,清洗的成本甚至比标注本身还高。他们现在花在数据预处理上的精力,比几年前翻了不止一倍。
3.2 深度学习框架的格局之变
2021年深度学习框架的市场格局出现了一个微妙的转折信号。PyTorch在学术论文中的使用量首次全面超过TensorFlow,成为AI研究社区的事实标准。Meta的开源策略在开发者生态建设上实在太成功了,torch这个API设计得简洁顺手,用起来顺滑度确实比TensorFlow的静态图模式好出几个档次。
Google那边也没闲着,TensorFlow 2.0换了动态图模式,推出了Keras作为官方推荐API,但对开发者心智的占领已经晚了半步。同时TensorFlow在TensorFlow Lite和TensorFlow.js这些端侧场景依然保有优势,部署工具链比PyTorch成熟不少。
国内在框架层面的布局主要集中在百度的飞桨、华为的MindSpore和旷视的天元。飞桨在政企项目里的渗透率在2021年有比较明显的提升,一方面是因为开源生态在持续补课,另一方面是国内客户对国产化的需求确实在增加。MindSpore则是和昇腾芯片绑定得更深,走的是“芯片+框架+开发套件”全栈打通的路线。
我在实际项目里亲测过飞桨和MindSpore,一个很直观的感受是:中文文档和社区支持比PyTorch友好太多了。遇到一个报错信息,用百度直接搜到的解决方案命中率比去GitHub翻Issues快得多。但跨框架迁移的工程量依然不可忽视,尤其是用了大量第三方库的复杂项目,迁移成本可能比预期的高出几个量级。
框架选型这件事,我的建议是这样的:学术研究和快速原型验证选PyTorch;政企项目有国产化硬性要求的选飞桨;如果用了昇腾的全套方案,那就顺势用MindSpore别折腾。技术选型最忌讳的是既要又要还要,最后把团队的精力全部烧在适配和迁移上。
4. 应用场景与商业变现:基础层如何影响产业落地
4.1 从安防到制造:行业渗透的真实路径
基础层的价值最终要通过应用场景来兑现。2021年AI落地的重点行业里面,智慧安防和智能制造是两个最典型的方向。
智慧安防是AI最大也是最成熟的落地场景。城市级的视频监控网络每天产生的数据量是天文数字,靠人来看画面早就不现实了。AI算法在背后做实时分析,从人脸识别到行为异常检测,再到跨摄像头的轨迹追踪。这个场景对算力的需求非常典型:训练过程在云端完成,推理部署在边缘侧。一台带有AI推理芯片的智能摄像头,可以实时处理一路甚至多路视频流,远远优于把视频全部传回中心机房再做分析的高带宽成本方案。
制造领域的AI落地比安防慢一些,但含金量更高。表面缺陷检测是工业AI最成熟的应用方向,在消费电子、汽车零部件、钢铁和纺织行业都有大量成功案例。传统的光学检测设备只能检测规则缺陷,AI的强项在于识别那些连人都很难用语言描述清楚的不规则瑕疵。一条年产千万片面板的生产线,人工质检需要几十个人倒班盯着屏幕,换成AI视觉方案之后只需要保留少量复判人员。
基础层在这中间扮演的角色是双重的。一方面,算力成本直接决定了单条产线改造的整体投入能不能算得过来账;另一方面,数据采集和标注的质量直接决定了模型的检出率和误检率,进而决定了客户愿不愿意把核心生产环节交给AI。
4.2 大厂自研带来的冲击与创业公司的机会
基础层五巨头——谷歌、亚马逊、微软、Meta、阿里——在2021年都在自研芯片上加了码。Google有TPU,AWS有Trainium,阿里有含光800和倚天710。大厂自研的根本逻辑是一样的:AI算力已经成为云业务的成本大头,与其让利润源源不断流向英伟达,不如把芯片握在自己手里。
这种趋势对创业公司来说,既是压力也是机会。压力在于,通用AI芯片赛道的窗口期正在关闭,一个新玩家想正面硬刚英伟达或者在细分市场跟国产巨头打价格战,几乎没有任何胜算。机会则在于市场上总有一些巨头看不上的细分需求:超低功耗的端侧推理芯片、特定场景的定制化加速卡、面向专业领域的软硬一体方案。
数据标注市场同样在经历洗牌。2021年出现的最明显变化是,数据标注开始和具体的AI落地场景深度绑定,纯做标注的人力外包公司利润越来越薄,而那些能提供“数据采集-清洗-标注-质检-管理”全链条服务的平台型公司开始抢占头部客户。
朋友圈里有个做工业AI的团队,他们从2021年开始尝试把数据标注环节从外包改为自建,大约花了大半年时间,最终的效果是数据返工率下降了差不多60%。核心原因不在于外包团队不专业,而在于工业场景的知识太需要领域经验了。外包标注员分不清螺纹牙底和牙顶的细微差别,自建团队在培训上投入足够多的时间之后,标注质量才能达到模型训练的要求。
| 行业 | 典型AI场景 | 算力需求特征 | 数据需求特征 | 基础层关键角色 |
|---|---|---|---|---|
| 安防 | 视频结构化、人脸识别 | 云端训练+边缘推理 | 海量视频帧、敏感度高 | 边缘推理芯片供应方 |
| 制造 | 表面缺陷检测 | 单机推理为主 | 缺陷样本稀少、需数据增强 | 数据标注服务方 |
| 金融 | 风控反欺诈 | 特征工程+模型推理 | 表格数据为主、强隐私约束 | 隐私计算基础设施 |
| 医疗 | 影像辅助诊断 | 训练+推理并重 | 标注极贵、专业门槛高 | 高质量标注服务方 |
| 自动驾驶 | 感知融合、路径规划 | 乘用车级计算平台 | 3D点云数据、标注成本极高 | 车载计算芯片、数据集服务 |
4.3 资本市场的估值逻辑与泡沫风险
2021年AI一级市场的估值逻辑发生了一个显著变化:纯算法公司的估值泡沫开始收缩,有基础层布局的公司估值反而在走高。原因很简单,资本意识到算法壁垒在开源社区面前正在快速消融,一个顶尖团队能做出的模型效果,另一个顶尖团队拿着同样的开源代码也能做出来。真正能形成护城河的,是把算力成本打下来的能力、是高质量数据的独占性、是完整工具链的生态粘性。
国产AI芯片行业在这一年的投融资热度相当高。资本看好的逻辑很朴素:国产替代是个长期确定性事件,GPU这个市场空间足够大,哪怕国产品牌只能吃到国产替代的份额,已经足够养活一批上市公司了。但泡沫的一面也客观存在——很多国产芯片公司拿到的估值,已经提前计入了五年后甚至十年后的市场份额,一旦产品落地节奏低于预期,估值收缩的风险非常大。
作为从业者,我能给出的判断是:基础层的价值会在未来三到五年持续凸显,但二级市场的定价会经历一个去伪存真的过程。真正值得跟踪的指标不是发布会上的PPT算力数字,而是芯片的实际出货量、客户的复购率、以及软件生态的开发者数量。
5. 未来趋势与风险预判:基础层的下一个五年
5.1 算力需求的结构性分化
2021年往后看,算力需求一定会继续增长,但增长的方向会出现明显的分化。大模型预训练是典型的“大力出奇迹”,对算力的需求几乎是无底洞式的,每一次模型规模的跃升,意味着几千张GPU卡投入下去。这注定只是少数大厂和头部研究机构能玩得起的游戏。
绝大多数企业的AI需求是另一条路线:用已经开源的成熟模型做微调,然后部署到业务场景里去做推理。这部分需求推高的是推理算力,而不是训练算力。推理场景对时延和功耗更敏感,AI芯片如果能在推理效率上做出差异化优势,比在训练环节追逐最顶尖的峰值算力更有商业价值。
我们还可以展望一下AI专用加速芯片和异构计算架构的发展方向。未来一个智能计算集群里面,很可能同时存在GPU、NPU、FPGA、ASIC这些不同的计算单元,由统一的调度框架把它们编排起来,根据任务类型动态分配最适合的计算资源。这种异构计算思路在2021年还处于早期阶段,但方向已经比较明确了。
5.2 数据合规与隐私保护的硬约束
《数据安全法》和《个人信息保护法》在2021年相继施行,对AI基础层的数据环节产生了硬性约束。数据的采集、存储、使用、加工、传输每一个环节都有了明确的法律底线。过去那种“先收集数据,再想办法合规”的做法,彻底行不通了。
对基础层玩家来说,隐私计算技术从边缘话题变成了标配能力。联邦学习、差分隐私、安全多方计算这些名词一下子火了起来。联邦学习解决的核心问题是:数据不出域的前提下,多个参与方还能联合训练模型。这对金融、医疗这些高度受监管的行业来说,几乎是打开AI落地的钥匙。
我给一个具体的例子。某大型不愿意透露名字的股份制银行,想用联邦学习来联合多家分行做反欺诈风控模型。技术上联邦框架已经比较成熟,真正卡住进度的是多方之间的数据管理和信任机制问题。每家的数据特征维度不一致、样本ID对齐困难、各种安全协议在真实网络环境下的性能损耗——这些问题远比论文里的实验要复杂得多。这提醒我们,新技术落地从来不是纯技术问题,而是技术、组织、流程的整体博弈。
5.3 开源生态与标准之争
基础层的行业标准,很大程度上由开源社区来定义。PyTorch和TensorFlow的竞争、Linux在服务器操作系统里的绝对统治地位、Kubernetes在资源调度领域的事实标准,这些都说明在AI基础设施层,开源战略是决定国际话语权的核心武器。
中国基础层的开源力量在2021年还处于起步阶段。百度的飞桨坚持开源,华为把MindSpore捐给了开放原子开源基金会,国内的开发者社区还处在土壤培育期。要形成全球影响力的开源项目,需要长期投入、持续的治理能力以及跨国开发者的共同贡献。这不是砸钱就能短期见效的事,但这是一件不做不行的事。
作为博主,我个人的判断是:基础层竞争的终局,一定是生态对生态、标准对标准的竞争。芯片指令集、软件栈、数据格式、模型发布标准,每一个环节都在试图建立事实标准。谁的标准被最多开发者使用、被最多硬件厂商支持、被最多客户接受,谁就掌握了定义下一代AI基础设施的话语权。
写在最后:基础层是苦活,更是硬活
做基础层的公司,做的都是苦活累活。芯片研发投入的时间周期是按十年计的,数据标注业务的毛利率低到让人怀疑人生,深度学习框架一年的维护成本够养一支几百人的团队——看上去远不如做几个AI应用Demo那样光鲜亮丽。
但我在这个行业里观察得越久,越能确认一个朴素的判断:决定AI产业竞争力和技术高度的,永远是基础层的深度。应用你可以快速迭代、快速模仿,但基础层每前进一步,都意味着整个产业往上提高了一截。
最后分享一个我在做行业研究和项目咨询时常用的方法:判断一个AI项目是真的有价值还是纯靠讲故事,不看它的算法有多炫酷,只看它对算力的使用效率、对数据资产的管理能力、以及对框架工具链的掌控程度。这三点,恰恰就是人工智能基础层关心的全部议题。
基础层的投资周期长、见效慢,但这是所有AI梦想的基石。谁把基础层做得更踏实,谁就站在了这个时代真正坚硬的地面上。