AI宏大叙事下的小公司该如何夹缝中求生

面向 几百人 Fabless 公司的 AI 转型方向判断

核心结论速览

  1. 推理是确定性的增量市场,但「云端通用推理芯片」的主战场已被巨头定义,几百人规模的 Fabless 正面进入胜率极低。
  2. 真正的机会在四类缝隙:端侧/边缘推理、推理系统的「卖水人」环节、存算一体等架构级创新、垂直场景深度绑定。
  3. 路径上不建议 All in 长周期方向,先用「卖水人」或垂直场景芯片建立现金流,再并行做端侧产品化。
  4. 决定成败的往往不是技术路线,而是组织与人才结构、客户 BD 能力,以及是否预设了止损信号。
  5. 巨头的规模在缝隙市场是劣势,小公司的聚焦是优势——夹缝求生是现实战略,而非退而求其次。

在 AI 的宏大叙事里,算力、模型、生态似乎都被巨头占据。但对于一家 几百人的 Fabless 公司来说,真正的问题不是“AI 是不是方向”,而是:在巨头已经定义主战场的情况下,小公司应该以什么姿态切入,才能活下来并建立自己的位置。

显而易见的判断是:

在“云端通用推理芯片”这个主战场上,与华为、寒武纪以及正在收编 Groq 的英伟达正面竞争,小公司很难加入这种宏大叙事。但这并不意味着要放弃“推理”这个方向——恰恰相反,推理是 AI 芯片最大的增量市场,关键是你以什么姿态切入。

推理支出在 2026 年首次超过训练,占比预计达 55% 以上,推理算力同比增速约 122%,远超训练的 56%(数据来源见文末「参考资料与数据来源说明」)。这个趋势是确定的。但趋势确定,不等于机会对 200 人的公司开放。


一、云端通用推理芯片:一个“看起来美”的陷阱

曦望的案例很有说服力。这家脱胎于商汤、一年内融资近 30 亿的公司,选择“All in 纯推理 GPU”,逻辑是“训练是头部玩家的游戏,但推理是百花齐放的”。

这个判断本身没错,但它能走这条路,靠的是:

  • 30 亿融资;
  • 商汤的产业背景;
  • 一款对标先进水平的训推一体芯片的底子。

即便如此,它的核心策略也不是做“更好的通用推理 GPU”,而是做极致的减法:放弃 HBM 改用 LPDDR,把芯片面积倾斜到 FP4,目标是“十倍以上的性价比提升”。

规模小的公司做云端通用推理芯片,面临三重结构性劣势:

1. 资本强度不匹配

AI 芯片研发预算正以两位数速度逐年上升,第二梯队 Fabless 面临“要么快速规模化,要么被结构性甩下”的困境。

寒武纪、海光等已经形成营收规模的正循环,而新进入者需要在没有营收的情况下持续投入先进制程和 HBM/先进封装。

2. 生态门槛的转移,而非消失

推理的算子集合确实比训练收敛,更容易做深度优化。但这把竞争从“CUDA 生态壁垒”转移到了“客户场景的深度绑定能力”上。

云端推理的大客户,比如头部互联网、运营商,需要的是可规模化部署的整体解决方案,而不是一颗指标好看的芯片。小团队很难同时覆盖芯片设计、软件栈、客户场景调优和规模化交付。

3. “推理”本身正在被巨头重新定义

英伟达约 200 亿美元收编 Groq 团队和技术,谷歌 TPU v7(Ironwood)专门锁定超大规模在线推理,华为昇腾在国产云端推理中占据主导份额。

云端推理的头部格局正在快速固化,留给中小公司做“又一个通用推理 GPU”的窗口正在关闭。


二、更适合 小而美公司的四个布局方向

以下方向不是互斥的,可以组合。但每一个的共同特征是:

不与巨头在“算力绝对值”上竞争,而是在巨头覆盖成本过高、或尚未形成标准答案的缝隙中建立不可替代性。

为避免「四个方向」变成拍脑袋的罗列,本文用四个维度做筛选:资本强度(需要多少钱才能跑通)、生态壁垒(是否必须自建软件栈)、客户集中度(单客户天花板与议价能力)、技术成熟度(距离量产与营收的时间)。四个方向在这四维上的差异,正是它们适配不同公司禀赋的原因。

方向一:边缘/端侧推理芯片——最大的结构性错位机会

这是目前对中小 Fabless 最友好的推理战场。

2026 年 Q1,全球端侧与边缘 AI 芯片出货量同比增长 45%,接近云端 AI 芯片同期增速 12% 的近四倍。

芯原股份戴伟民的判断更直接:未来端侧微调卡和推理卡的销售额将超过云侧训练卡。

为什么这个市场更适合小公司?

  • 场景极度碎片化,巨头的标准化产品无法通吃。
    智能家居、可穿戴、工业控制、车载、机器人,每个场景对功耗、延迟、成本、可靠性的优先级完全不同。
  • “够用”的算力 + 极致的能效比,比“绝对算力”更重要。
    韩国 DeepX 的案例:用不到 50 美元的芯片实现了原本需要3000 美元 GPU 才能提供的算力,瞄准的是“在 5 瓦以下跑百亿参数模型”的端侧物理 AI 场景。
    这需要的不是最先进的制程和 HBM,而是架构级的能效创新。
  • 国产阵营已经验证了商业可行性。
    2026 年上半年,瑞芯微、星宸科技、富瀚微、爱芯元智等边缘 AI 芯片公司的营收增速在 40%~180% 之间,部分已进入利润兑现期。
    这说明端侧推理芯片不是“未来故事”,而是正在发生的营收现实。

风险提示:端侧市场的碎片化也意味着单客户天花板有限,需要较强的产品矩阵能力和渠道覆盖能力。选错第一个场景,比如过早进入竞争激烈的 AI 手机主芯片,可能消耗掉有限的现金流。


方向二:做推理系统的“卖水人”——Chiplet、互联、IP 与设计服务

如果不想直接卖芯片与终端客户搏杀,另一个务实的选择是:

成为推理芯片生态中“不可替代的一环”,而不是做一个完整的芯片产品公司。

Chiplet 与异构集成

推理芯片的一个核心矛盾是:不同推理阶段,比如 Prefill vs Decode、Attention vs FFN,对计算和访存的需求截然不同,单一 monolithic die 很难在所有阶段都高效。

Chiplet 路线允许用不同工艺、不同功能的 die 组合来匹配推理负载的异构性,同时降低对最先进制程的单点依赖。

EdgeCortix 的 SAKURA-X chiplet 平台、Lola Vision Systems 的 AI system-on-chiplets,都是这一逻辑下的中小 Fabless 实践。

对于规模不大的公司,可以做Chiplet 设计服务或特定功能芯粒的供应商,而不是完整的 SoC。

高速互联与接口 IP

推理正在从单卡走向系统级集群,互联能力成为瓶颈。

龙迅半导体聚焦 PCIe/CXL、USB 等高速协议芯片,服务于 AI 应用的数据传输基础设施。

这类市场的特点是技术门槛高但生态壁垒相对开放,不需要 CUDA 级别的软件栈投入,更适合中小团队建立细分优势。

设计服务与定制化

系统厂商造芯的趋势正在改变 Fabless 的商业模式,“未来可能转向提供核心 IP、设计服务、定制开发”。

对于有成熟设计能力的团队,为特定行业的系统厂商做AI 推理芯片的定制化设计,是一条现金流更可预测的路径。代价是放弃了通用芯片的规模化天花板。


方向三:存算一体等架构级创新——赌一个更远的“非对称机会”

如果团队的技术判断力和耐心足够,存算一体(CIM) 是一个值得认真评估的长期方向。

它的逻辑不是“做更好的推理芯片”,而是从根本上挑战推理芯片的底层范式:

传统冯·诺依曼架构的“存储墙”,使得推理尤其是 Decode 阶段的大量能耗花在数据搬运而非计算上。

九天睿芯的路径有一定参考价值:

  • 专注于多层级存算融合;
  • 第二代芯片支持 1~3B 轻量模型已流片成功;
  • 第三代目标支持 100B 参数量模型推理;
  • 宣称成本仅为现有方案的十分之一。

思敏威则聚焦3D 存算融合 + Chiplet,面向 AI PC 和智能终端的本地 Agent 推理。

这是一个高风险、高赔率的方向。

风险在于:存算一体的工艺成熟度、良率,以及软件栈的从零建设,对 200 人公司是巨大考验。

但它的吸引力在于:如果架构创新真的能在特定场景,比如端侧大模型推理,实现 10 倍级的能效或成本改善,巨头在现有 GPU/CUDA 路径上的惯性反而会成为它们的包袱。

适合作为技术团队有深厚积累时的“第二曲线”布局,而非唯一赌注。


方向四:垂直场景的深度绑定——“推理芯片 + 场景 Know-how”

比“做一颗更好的推理芯片”更可持续的,是:

做某个垂直场景中推理能力的最优解,而芯片只是这个解的一部分。

瀚博的路径是一个例证:

  • 第一款产品聚焦视频处理与 AI 加速;
  • 这是一个对实时性要求极苛刻的场景;
  • 其 SV 系列在特定推理场景下数据吞吐达到通用 GPU 的 2 倍,且带宽要求更低。

它的竞争力不是“通用算力更强”,而是:在这个场景中,通用 GPU 的架构冗余变成了它的优势。

类似的逻辑适用于:

  • 工业视觉;
  • 自动驾驶的特定子场景;
  • 机器人实时推理;
  • 医疗影像边缘推理。

这些场景的共性是:推理负载有明确的实时性、功耗、可靠性约束,通用芯片为了兼顾全场景而做出的设计妥协,恰恰是专用芯片的机会。

微型公司的优势在于决策链短、能与场景客户深度共创,做出巨头标准化产品无法覆盖的“场景原生”芯片。


四个方向的横向对比

方向资本强度回报周期技术门槛现金流特征
端侧/边缘推理芯片中1~2 年中(重能效与场景)起量后较稳定,单客户天花板有限
卖水人(Chiplet/IP/设计服务)低~中6~18 个月中高(细分专精)最可预测,项目制为主
存算一体等架构创新高3 年以上极高(工艺+软件栈)前期纯投入,赔率高
垂直场景深度绑定中1~2 年中(重场景 Know-how)客户黏性强,规模天花板受限

三、一个务实的路径建议

对于 几百人的 Fabless,不建议“All in”任何一个需要 3 年以上才能产生营收的方向。

更稳妥的布局是:

第一阶段:0~18 个月,以“卖水人”或“垂直场景芯片”建立现金流

优先评估方向二,也就是 Chiplet、IP、设计服务,或方向四,也就是垂直场景推理芯片中,与团队既有积累最接近的切入点。

目标是:在不依赖持续大额融资的情况下,让公司活下来并建立第一个规模化客户关系。

第二阶段:并行启动,在端侧推理中选择一个场景做产品化

端侧市场的增速和碎片化特征,使它成为小公司最有可能建立“产品公司”身份的方向。

关键是:第一个场景的选择要极度克制。选一个团队有认知优势、客户痛点明确、且不需要与手机主芯片厂商正面竞争的场景。

第三阶段:视技术储备决定,将存算一体或 Chiplet 异构集成作为差异化武器嵌入前两个阶段的产品中

不是单独做一个存算一体公司,而是把架构创新作为提升端侧或垂直场景推理芯片能效/成本的手段。

这样即使架构创新的节奏慢于预期,产品仍然有场景和客户作为缓冲。


什么信号出现时应该收缩或转向

三阶段路径不是单向推进,需要预设止损与转向的判断标准:

  • 现金流信号:第一阶段 18 个月内仍未签下第一个规模化客户,或应收账款周期持续拉长,应收缩产品线、回到设计服务保现金流。
  • 客户信号:目标场景的头部客户连续两个采购周期未进入量产导入,说明场景选择或产品定义有偏差,应换场景而非加投入。
  • 技术信号:架构创新方向连续两次流片未达能效/良率目标,应把它降级为「嵌入现有产品的差异化特性」,而不是独立产品线。
  • 组织信号:软件栈与客户交付团队长期缺位、靠外包填补,说明组织能力尚未匹配所选方向,应先补人再谈扩张。

总结

“继续卷推理芯片”的正确姿势,不是卷云端通用推理的算力竞赛,而是把“推理”这个确定性的需求,嫁接到小型公司真正有优势的缝隙上:

  • 端侧的碎片化场景;
  • 推理系统的非芯片环节;
  • 垂直场景中通用架构的冗余之处。

在这些地方,巨头的规模是劣势,你的聚焦是优势。

AI 宏大叙事之下,小公司不该去证明自己也能造“更大的锤子”,而应该找到那些巨头不愿意弯腰、也弯不下腰的缝隙。夹缝求生,不是退而求其次,而是小公司最现实的战略。


四、容易被忽略的两个前提:组织与人才

技术路线选对,只是必要条件。对几百人规模的公司而言,以下两点往往更早决定成败。

1. 组织结构的匹配度

  • 产品公司 vs 服务公司是两种组织:做「卖水人」需要项目制、快速响应与客户接口人;做端侧产品需要长期投入的产品经理与版本节奏。两者混编,通常两头都做不好。
  • 决策链短是优势,但要有边界:小公司能快速拍板,但若缺少技术评审与产品定义流程,容易在错误场景上反复试错,把「快」变成「乱」。
  • 建议:把「现金流业务」与「产品化业务」在预算、考核与团队上适度隔离,避免短期营收压力挤占长期产品投入。

2. 人才结构的短板

  • 软件栈人才比芯片人才更稀缺:端侧与垂直场景的竞争力,很大程度取决于编译、算子优化与客户模型适配能力,这部分人力常被低估。
  • 客户 BD 与 FAE 能力:碎片化市场靠渠道与现场支持覆盖,缺少 FAE 团队会导致「芯片做出来但客户用不起来」。
  • 建议:在路线选择时同步评估团队现有能力,优先选择「与既有积累最接近」的切入点,而不是「看起来最性感」的方向。

参考资料与数据来源说明

本文涉及的数据、案例与判断,均来自公开报道、行业报告与厂商公开信息。为便于读者自行检索核对,以下仅列出来源名称、发布方与发布时间,不提供跳转链接;如需原文,建议按标题与发布方在对应平台检索。

推理支出超过训练

  • 集微咨询《AI 产业系列报告之 LPU 芯片(2026)》,2026 年 11 月。
  • 东方财富网《推理支出 2026 年首超训练:AI 基础设施投资逻辑生变》,2026 年 10 月。
  • Presenc AI《Inference vs Training Compute Split 2026》,2026 年 7 月。

对应论点:2026 年推理支出首次超过训练支出,占 AI 优化 IaaS 支出约 55%;推理算力同比增速约 122%,远超训练的 56%。

曦望:All-in 推理 GPU 的资本强度

  • 观察者网《GPU 创企一年融资 30 亿:出身商汤,押注推理》,2026 年 1 月。
  • 21 世纪经济报道《专注推理,放弃训练:一家中国 GPU 公司的差异化突围》,2026 年 2 月。

对应论点:曦望一年内完成近 30 亿元融资,前身为商汤大芯片部门,2024 年底分拆,定位「首家 All-in 推理的 GPU 芯片公司」;在调度、缓存、片上 SRAM 等环节做推理原生优化,并以 LPDDR 降低成本。

英伟达收编 Groq

  • 环球网《英伟达 200 亿美元收购成果落地,Groq 3 LPX 机架全面量产》,2026 年 8 月。
  • Business Times CN 对同一收购事件的报道,2026 年 8 月。

对应论点:英伟达以约 200 亿美元收购 Groq 相关资产,为其史上最大收购之一;Groq 3 LPX 机架进入量产。

端侧 / 边缘 AI 芯片的结构性机会

  • 集微咨询《AI 产业系列报告之 VPU 芯片(2026):边缘推理爆发,VPU 跃升算力体系「第三极」》,2026 年。
  • ECCN《端侧 AI 元年业绩兑现:边缘算力爆发,A 股芯片公司半年报最高预增 2 倍》,2026 年 7 月。

对应论点:2026 年 Q1 全球端侧与边缘 AI 芯片出货量同比增长 45%,接近云端 AI 芯片同期增速(12%)的近四倍;IoT / 工业边缘中低端 AI 芯片出货涨幅突破 110%。

DeepX:端侧能效比路线的样本

  • The Elec《DEEPX Targets 60 Billion-Won Revenue in 2026, Citing Surge in NPU Demand》,2026 年 4 月。

对应论点:DX-M1 单颗约 50 美元,功耗 2~3 瓦,能效约为 Jetson Orin Nano 的 20 倍,算力约为其两倍;5nm 三星代工,良率 91.1%。

国产边缘 AI 芯片的营收兑现

  • 智通财经《东吴证券:端侧 AI 芯片 Q1 业绩点评,新品放量驱动高增》,2026 年 5 月。
  • 行业媒体统计《业绩大增 31.86%~181.80%,9 家主流边缘 SoC 公司发布半年报》,2026 年 8 月。
  • 集微咨询 VPU 报告(同上)。

对应论点:2026 年 Q1 星宸科技营收同比 +49%,瑞芯微 +36%,全志科技 +47%;2026 年上半年爱芯元智营收同比 +181.80%,富瀚微 +112.66%,瑞芯微 +40.60%。

Chiplet / 异构集成的中小 Fabless 实践

  • EdgeCortix 官方资料:SAKURA-X chiplet 架构。
  • TechCrunch《Lola Vision Systems:AI system-on-chiplets》,2026 年 10 月。

对应论点:SAKURA-X 采用 chiplet 技术,将多颗芯片集成到单一封装,面向边缘生成式 AI 与 LLM 推理;Lola Vision Systems 采用五芯粒设计 + UCIe 2.0 互连,面向自动驾驶、航空航天、国防等场景。

互联 / IP / 设计服务作为「卖水人」路径

  • 科创板日报《龙迅股份:PCIe 5.0 / CXL 2.0 面向 AI 集群的互连布局》,2026 年 9 月。

对应论点:龙迅在研 PCIe 5.0 Retimer(兼容 CXL 2.0)与 PCIe / CXL Switch,面向数据中心与 AI 集群的多设备扩展、算力池化和 GPU 互连。

存算一体:架构级创新的高风险高赔率

  • 广东省集成电路行业协会《九天睿芯获元禾璞华领投超亿元 B 轮融资》,2025 年 9 月。
  • 投资界《思敏威集成电路完成亿元天使轮融资,加速 3D 存算产业化》,2026 年 10 月。

对应论点:九天睿芯第二代芯片支持 1~3B 轻量模型已流片成功,第三代目标支持 100B 参数模型推理,宣称成本仅为现有方案的十分之一;思敏威专注存算融合 3D 异构集成与 Chiplet 互连,聚焦大模型 Agent 推理。

垂直场景深度绑定:瀚博的参考

  • 瀚博半导体官方资料:SV 系列推理吞吐与低时延表现。

对应论点:瀚博 SV 系列在视频处理与 AI 加速场景下,推理吞吐量最高达主流 GPU 的 2 倍,低时延场景下时延约为主流 GPU 的 1/5。

使用说明

以上来源按文章论证顺序排列,每条标注了对应的具体论点,便于读者按图索骥。部分媒体内容可能随来源站点调整而变化,建议优先使用标题与发布方信息进行二次检索;文中数据以原始报告口径为准。

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐