企业官网建设流程全解析

我去年的这个时候，团队内部维护了一份AI芯片选型调查表，数了数一共57种。前两天再打开，已经涨到了120多种。没错，就是半年多的时间，表格从两页纸膨胀到七八页，新增的全是这个市场里冒出来的新面孔——有的是老牌芯片厂商的迭代产品，有的是做云端推理卡的新势力，更多是往终端设备里塞的NPU（神经网络处理单元）。这件事本身就说明了一个问题：AI芯片市场已经进入了爆发期，选设备的难度也从“挑一挑”变成了“海底捞针”。

这篇文章就是围绕这张调查表展开的。我会先聊聊为什么芯片种类会翻倍，再拆解选设备到底该看哪些硬指标，然后给出一个我自己一直在用的评估框架，最后把我踩过的坑和排查心得一并倒出来。无论你是准备给服务器配云端推理卡，还是给边缘盒子挑算力模组，甚至只是给开发板选NPU，这篇文章都能给你一个可落地的筛选思路。

1. 为什么AI芯片调查表会从57种涨到120多种

先说一个反直觉的事实：AI芯片种类暴涨，并不是因为技术突然百花齐放，而是因为需求端被彻底撕开了口子。过去我们聊AI芯片，脑子里基本就是训练卡、推理卡两类，供应商就那么几家，评价维度也无非算力、显存、功耗。现在不一样了，llama和各类开源大模型出来了之后，几乎所有行业都在尝试把大模型塞进自己的产品里，因此产生了大量碎片化的算力需求。这些需求里，有的在云端数据中心，有的在摄像头旁边，有的在手机里，有的在一块手表里。需求场景的分化，直接推动了芯片设计的分工。

1.1 三股力量把芯片清单撑大了

第一股力量是云端训推市场的扩容。大模型训练需要海量算力，而且训练和推理对芯片的要求并不一样——训练看重浮点算力和显存带宽，推理更看重吞吐和能效。这个差异直接催生了一批专门为推理优化的芯片，不再只是拿训练卡硬顶上。

第二股力量是端侧AI的爆发。手机、PC、平板、汽车、摄像头、机器人、智能家居，几乎每个终端设备都要跑AI模型，这些设备对芯片的功耗、面积、成本要求极其苛刻。于是出现了大量集成在SoC里的NPU，或者独立的小算力芯片，它们不像云端的大家伙那样声名在外，但在调查表里占据了大半个江山——我那份120多行的表格，里面超过60%都是端侧和边缘侧芯片。

第三股力量是从供应链角度看的。过去几年的芯片供应波动让很多企业意识到，不能把所有筹码押在同一个供应商身上，于是纷纷开始寻找第二来源甚至第三来源。这中间既有成熟大厂的替代型号，也有不少新入局的创业公司。结果就是每个算力档次上都有好几家可选，表格自然越写越长。

1.2 碎片化背后：没有一个芯片能通吃所有场景

如果只是数量变多，事情并不复杂，最多就是多花点时间看参数。真正麻烦的是，这120多种芯片的定位完全不同，它们根本不是同一物种。

举个例子，一块用于云端训练的加速卡，人家标称算力单位是TFLOPS，主要看FP16甚至FP8性能；一块用于手机NPU的AI处理器，标称单位是TOPS，通常指INT8整数算力；而边缘设备里的某款视觉处理芯片，可能只跑定点模型，INT16、INT8都支持，但浮点能力几乎可以忽略。你在同一张表里把它们放在一起横向比较，本身就是个坑。

这其实就是我做这个调查最大的感悟：选AI芯片，首先要搞清楚自己属于哪个场景，然后只在同类场景里做横向对比。场景分类是选型的第一道分水岭，我在后面会给出详细的分类清单。

2. 选设备前先看清规格书里的算力指标

很多关注这颗芯片那个芯片，最开始看的就是“多少TOPS”，好像算力数字越大就越厉害。真实情况是，算力指标本身就是最容易误导人的地方。规格书上的数字是理论峰值，而且是特定精度、特定稀疏率下的理论峰值。同一颗芯片，写宣传页时用INT8稀疏算力，规格书里用INT8稠密算力，物理测试时又折算成FP16算力，三个数字能差出好几倍。

2.1 先别急着比大小：弄清TOPS、TFLOPS和OPS

这三个单位经常混用，但它们有严格的适用范围。TOPS全称是Tera Operations Per Second，一般用于INT8整数运算；TFLOPS是Tera Floating-point Operations Per Second，专门指浮点运算，常见精度是FP32、FP16、BF16，最近又多了FP8；OPS则是一个笼统的叫法，很多边缘芯片喜欢用它来规避精度定义。

我在调查表里专门加了一列“标注精度”，强制每条记录都写清楚这个算力数字是对应什么精度算出来的。比如某款端侧NPU标称是“30 TOPs”，看起来比某云推理卡标称的“120 TFLOPS”小不少——但如果你换算一下，INT8和FP16的运算量本来就不一样，直接比大小毫无意义。换算经验值大概是：FP16算力大约是INT8算力的一半左右（1个FP16乘法运算的复杂度约等于2个INT8乘法运算，但实际还要考虑数据通路设计，不同芯片差异很大），当然这只是估算，真正要比还是看基准测试。

2.2 精度支持范围：FP16够不够、INT8能不能打

现在的AI推理基本被INT8量化接管了，训练则要用FP16/BF16甚至FP8。所以你要做的第一件事，是确认自己模型的权重精度和激活精度落在哪个范围。如果你只在CPU上跑一个轻量模型，INT8推理就够了，那就可以把目光锁定在INT8算力优秀、价格友好的芯片上；如果你要跑大模型微调或者大规模推理，就得看芯片对FP16/BF16的支持是不是完整，FP8的兼容性有没有坑。

我遇到过不少因为精度没核对清楚而翻车的项目。有个团队想用某款边缘设备跑一个量化到INT8的目标检测模型，设备标称算力非常够，但实际部署后发现某些算子不支持INT8的快速模式，编译器直接回退到FP32模拟，性能掉到原来的三分之一。这种问题在参数表上是看不出来的，必须结合框架和算子的兼容列表来评估。

2.3 内存带宽和容量：算力是引擎，带宽是油箱

有些芯片标称算力很高，但实际推理大模型的时候表现平平，问题多半出在内存带宽上。大模型推理本质上是一个访存密集型任务，每生成一个token，要把整层权重从显存里过一遍。带宽不够，计算单元就得空转等待数据到来。这个瓶颈在长序列生成任务里格外致命。

带宽的单位是GB/s，主流云推理卡目前都在1TB/s以上，高端产品已经到数TB/s。边缘芯片的带宽则从几十GB/s到几百GB/s不等。除了带宽，容量也要重视。模型权重、KV cache、临时激活都要占用显存，显存不够就得做Offload，速度会断崖式下跌。有个简单的估算方法：7B参数模型在FP16下权重占14GB左右，推理时显存至少要有权重的1.5到2倍才舒服。如果你想跑长上下文，KV cache增长很快，显存预留就要更充分。

2.4 功耗和散热：Peak数字解决不了机房问题

功耗这个指标，规格书上的TDP和实测值经常差得很远。我做调查时专门记了每一颗芯片的实测整板功耗，发现很多标称“15W”的边缘芯片，实际跑满负载能到22W以上。如果你的设备是太阳能供电或者电池供电，多出来的这7W可能就是压垮系统稳定性的最后一根稻草。

功耗不只影响电费，还直接决定散热方案和系统体积。数据中心里，功耗决定了单机柜能插多少卡；边缘场景里，功耗决定了产品的外壳能不能做得足够小。所以我对功耗的处理方式是：不要把TDP当作TDB（Trusted Design Budget），一定要问清楚实测整机功耗，尤其是峰值负载下的功耗。

3. 实战选型框架：从场景分类到打分矩阵

前面聊了那么多指标，如果你真的要把120多种芯片逐一比较，还是会累得头秃。我这里分享一个自己打磨了很久的选型框架，一共四步：分场景、列需求、定权重、打分筛选。

3.1 先把芯片场景分成五类，不跨类比较

我一般把AI芯片分成五类场景：

• 云端训练芯片：以训练为主、推理为辅，强调浮点算力和显存带宽，软件栈围绕大规模集群设计。
• 云端推理芯片：以推理为主，强调吞吐量和单位能耗性能，对多batch、动态shape支持要到位。
• 边缘/嵌入式推理芯片：部署在靠近数据源的地方，强调功耗、时延、成本，算力单位通常是TOPS。
• 端侧NPU：集成在手机、PC、平板等消费电子SoC里的AI单元，算力中等，但对软件生态要求很高。
• 异构融合芯片：把CPU、GPU/NPU、DSP等做在一起，适用于机器人、无人车等实时性要求极高的场景。

这五类芯片的评估侧重点完全不同。云端训练芯片你会盯着FP16算力和显存带宽，端侧NPU你反而会先确认它支持哪些主流的推理框架，框架不支持，算力再高也对你的项目没用。

3.2 定义你自己的需求：预算、部署环境和性能底线

很多调查表做成了参数大杂烩，什么数据都填，什么维度都列，实际决策时反而派不上用场。我建议先回答三个问题，再带着答案去查表：

第一，单台设备的预算区间是多少？是三千元以内的边缘盒子，还是几万元挡位的服务器加速卡？预算直接帮你排除掉一半的选项。

第二，部署环境允许的功耗上限是多大？现场能提供多少瓦的电源和散热能力？这能排除掉另外三分之一的选项。

第三，你的模型对显存/内存的最低要求是多少？比如跑7B模型至少要24GB左右的内存空间，跑13B模型就要翻倍。显存容量不够的芯片，直接淘汰。

这三个问题定下来，120多种芯片基本就缩小到十几种了。

3.3 用加权打分表把候选名单压到5个以内

剩下的十几种芯片，我会进入加权打分环节。这个打分表只有六个维度，权重可以自行调整：

评分不是拍脑袋，每个维度我都有收集到的数据支撑。比如软件生态成熟度，我会去查官方文档里支持的推理框架列表，再看社区里是否有踩坑帖，最后跑一个最小模型实测数据，三项综合打分。打分之后按加权求和排序，前三名作为重点实测对象，第四、第五名作为备选。这样既不会错过最优解，又留下容错空间。

我强烈建议大家维护自己的版本，因为同样是权重，做大规模云服务的团队会更看重供应链，做好几万台边缘设备的团队会更看重功耗和成本。

4. 那些年踩过的坑：从选型调查到实际部署的教训

做了一份120多种芯片的调查表，听起来很专业，但这张表真正发挥价值是在被现实打脸之后。前面讲的都是方法，这一节全是教训。

4.1 纸面算力与实际吞吐的落差：跑一次真实模型就见分晓

我第一次用某款性价比极高的推理卡时，看规格书算力高得令人兴奋，价格只有大厂同级别的一半。结果把模型往上一放，实际吞吐量只有大厂的40%。问题出在这颗芯片对手写自定义算子的支持很差，几个关键层跑一次编译器就要生成几百行低效代码，性能大打折扣。

所以我现在有个铁律：无论规格书写得多漂亮，必须拿自己的模型和真实数据做一次基准测试才算数。如果时间不够跑全量，至少挑一两个最关键、最重的算子跑一下。这个环节省不了，省掉它，你后期就要用几倍的运维成本来还。

4.2 软件生态的锁定效应：硬件便宜，迁移成本贵

很多初创芯片厂商喜欢用低价策略吸引开发者，但软件生态往往是短板。开发的时候你可能只用到三五个算子，感觉不到差别；到了要上生产环境、要调优性能时，发现文档缺失、工具链坑多、社区求助无门，这时候你面对的就不是硬件成本，而是几十上百号工程师的时间成本。

选设备时我会做一次“软件生态压力测试”：拿一份中等复杂度的模型，看能不能在两三天内部署起来，并且性能达到预期。到这个目标的时间超过一周，这颗芯片基本可以划进高风险名单。这是没法写进参数表里的隐形指标，很多人忽略了，实打实吃过亏。

4.3 生命周期风险：小心只活一代的产品

芯片行业有一个残酷的现实：很多新产品只有一代，后续迭代跟不上，或者厂商转方向不玩了。你辛辛苦苦基于某芯片开发了产品，结果芯片停产、SDK停止更新，你的产品也会跟着陷入尴尬境地。

所以我在调查表里增加了一列“生命周期风险等级”，判断依据是：这家公司的现金流状况、芯片是否已经量产、产品线是否连续迭代、社区活跃度是否健康。风险等级高的芯片，就算其他指标再好，我也只会放进“观察区”，而不是落地方案区。对一个要稳定出货的产品来说，供应链的确定性比参数的亮眼程度重要得多。

4.4 散热和结构设计，是在选型阶段就要介入的

最后这个坑很多人直到设备跑到60度才意识到。有些边缘盒子的芯片标称功耗不高，但散热面积小、机箱又不透风，实际长期运行时温度远高于预期，性能被强制降频，推理延迟忽高忽低。

我的经验是，选边缘芯片时除了看芯片本身的功耗，还要自己算一下整机的热设计预算，包括外围器件、电源转换效率和外壳散热能力。宁可选择一个算力稍弱、但功耗曲线平缓的芯片，也不要选一个峰值性能很强、但热量处理困难的芯片。设备的稳定运行，永远比纸面上的跑分更重要。

5. 从120多种里挑芯片，我推荐的调查表维护方法

既然维护了120多种芯片，就得聊聊怎么让这张表活起来，而不是做一次就吃一年。AI芯片的迭代速度比传统硬件快太多，几个月不看，市场格局就变了。

5.1 表格字段怎么设置，才能支撑决策判断

我的调查表里面最主要的字段是这些：芯片型号、所属场景分类、厂商、制程工艺、峰值算力（分别标精度）、内存容量、内存带宽、功耗（TDP和实测）、支持精度、框架兼容性、软件工具链成熟度、价格参考、供货状态、生命周期风险、备注。

其中“备注”这一栏千万别偷懒，我把每一个指标的来源链接、测试环境、参考依据都写在里面。没有来源的数据就是垃圾数据，三个月之后你再回来看，根本想不起来这个数字是哪来的。

5.2 信息从哪儿来：别只盯发布会和宣传页

做芯片调查，信息渠道要多元。公开渠道里，规格书和官方白皮书是必读的，但只能作为起点。真正有价值的信息来自三个地方：一是开发者的实测博客和社区讨论，二是各类基准测试平台的公开数据，三是供应链渠道资讯。这些渠道的消息往往比发布会更真实更接地气。另外，如果能跟已经用上该芯片的同行交流一下实际使用感受，比读十篇评测都管用。

5.3 维护节奏：每季度看一眼，每半年大更一次

芯片市场的节奏让我把调查表的维护频率定为：每个季度过一遍新增型号，每半年做一次全量刷新。刷新包括核对参数、删除已停产型号、更新价格、调整风险评级。2025年这半年里，表格从57种涨到120多种，几乎每周都有新产品公布，这个节奏带来的信息量不是一次性能吃完的。

我个人的体会是，调查表的意义不在于“记录产品”，而在于“形成判断”。每次梳理你都会更清楚自己的需求边界，也更清楚市场上有哪些选项真正值得投入时间实测。

5.4 最后分享一个小习惯：永远留一个备选方案

再好的选型分析，也不能把所有希望押在一颗芯片上。我在每个算力档位都会至少保留两个兼容性较好的备选方案。这样一旦主选芯片出现供应链波动或者软件生态问题，不至于整个项目卡壳。毕竟调查表的价值，说到底不是让你买到理论上最强的芯片，而是让你在限制条件下选到最稳、最可落地的方案。