文 | 半导体产业纵横

畴昔两年，全球半导体产业的聚光灯恒久打在 HBM 身上。这种通过硅通孔本领垂直堆叠的 DRAM，追随英伟达 GPU 的大领域出货，完成了从一个小众产品到供不应求的"硬通货"的转变。然则，就在 2026 年的春天，一个看似腐烂的本领名词—— SRAM（静态立时存取存储器），正在以惊东说念主的速率重回舞台中央。

程序会这场复权的底层逻辑，必须先厘清存储层级的基本单干。在现代筹备架构中，存储系统呈现为一座金字塔：塔尖是集成在 CPU、GPU 筹备中枢近邻的片上 SRAM，具备纳秒级打听时延与高度笃信性的带宽特质，带宽极高但容量极小、成本极高；向下规律是 HBM、DRAM 和 SSD，每一级的容量递加，但时延和带宽的不笃信性也随之加多。在畴昔以训诫为主的时间，大容量朦拢比纳秒级反馈更紧迫，因此 HBM 占据了主导。但当 AI 哄骗从实践室走向普罗公共，当用户体验的标尺从"模子有多大"转向"回答有多快"，这座金字塔的受力结构正在发生深切变化。

3 月 17 日，加州圣何塞 SAP 中心的舞台上，身着象征性玄色皮夹克的黄仁勋用两个半小时的演讲，崇敬为这一趋势写下了注脚。在这场引人注目的 GTC 2026 主题演讲中，英伟达崇敬发布了集成 Groq LPU 架构的推理芯片，并败露了令东说念主瞩目的本领细节：最新 Groq 3 LPU 单芯片集成 500MB 片上 SRAM，存储带宽高达 150TB/s，而看成对比，主流 GPU 的片外 HBM4 带宽约为 22TB/s。

更令东说念主轰动的是其机架级有蓄意：Groq 3 LPX 机架搭载 256 个 LPU 处理器，提供 128GB 片上 SRAM 和高达 40PB/s 的推理加快带宽，并通过每个机架 640TB/s 的专用推广接口将这些芯片辘集在一说念。黄仁勋在现场文告，这款芯片将由三星电子代工，目下已进入分娩阶段，预测本年下半年开动出货。更令业界回荡的是，OpenAI 已笃信成为该芯片的首批客户，并快乐参加 300 亿好意思元采购讨论推理算力。这不仅是英伟达在 AI 芯片之路上的一次本知道线微调，更是一个明晰的信号：AI 筹备的需求结构正在发生根人性位移，推理已取代训诫，成为界说下一代芯片架构的决定性力量。

01 SRAM 若何重塑 AI 推理体验

程序会 SRAM 为安在此时爆发，必须伊始厘清 AI 使命负载的历史性转机。畴昔五年，AI 产业的中心矛盾是"算力饥渴"，即若何用更多的 GPU 堆出更大的模子。彼时，不管是 OpenAI 如故 Google，中枢诉求王人是用最短的时候完成海量数据的预训诫。在阿谁阶段，HBM 凭借其极高的容量和数据传输速率，齐备地充任了 GPU 筹备中枢的"粮仓"，尽管存在延长，但朦拢量是第一要务。

然则，德勤在《2026 科技、传媒和电信行业预测》中断言，到 2026 年，"推理"将占据全部 AI 筹备技艺的三分之二。当 AI Agents 开动承担复杂的多设施任务，现代码生成器用需要及时响哄骗户的每一次按键，用户体验的推断标尺发生了排山压卵的变化。用户不再关爱模子训诫了多久，只关爱发问后多久能看到第一个字（Time-to-First-Token），以及笔墨生成是否开通无卡顿（尾时延）。

这恰是 Groq 投资东说念主 Gavin Baker 所强调的"推理拆分"：模子处理教唆词的 prefill 阶段依然需要 GPU 的大领域并行算力，而逐字生成回报的 decode 阶段，瓶颈早已不在算力，而在内存带宽。传统 GPU 的逆境在于，其海量参数存放在片外的 HBM 中。每生成一个 token，筹备中枢王人需要穿越复杂的封装和互连浮现去 HBM 中搬运一次权重。这种"远距离运载"在 prefill 阶段或者不错容忍，但在需要串行输出成百上千个 token 的 decode 阶段，却形成了巨大的延长和能耗糜掷。

在大模子哄骗中，比拟依赖外置 HBM，SRAM 可权贵镌汰权重与激活数据的访存延长与抖动，从而改善 Time-to-First-Token 与尾时延施展。Groq 和 Cerebras 两家明星创业公司恰是收拢了这一本领痛点，推出了基于 SRAM 的 AI 芯片。当新一代 Groq LPU 将片上带宽擢升至 HBM 的 7 倍时，其意旨不仅是数字上的伊始，而是从根柢上改变了推理的体验畛域。以 Llama 3.3 70B 模子为例，凭据 Artificial Analysis 等寥落基准测试，Groq 平台在不同凹凸文长度下能守护 200-300+ token/s 的通晓推理速率，权贵优于传统 GPU 推理平台。这种带宽的笃信性和时延的可预测性，关于构建及时交互系统而言至关紧迫。

而 Cerebras 则走得更远。凭据 Cerebras 官网信息，其晶圆级引擎 3（WSE-3）芯片集成了高达 44GB 的片上 SRAM，片上存储带宽达到惊东说念主的 21 PB/s。这种将整片晶圆作念成一颗芯片的激进遐想，使得海量筹备中枢与海量 SRAM 之间的数据交换险些不存在瓶颈。在 OpenAI GPT-OSS 120B 推理任务中，Cerebras 杀青了跳跃 3000 tokens/s 的输出速率，较主流 GPU 云推理快约 15 倍。若是说 Groq 阐述了 SRAM 架构在单卡推理上的后果上风，Cerebras 则展示了当 SRAM 容量饱和大时，推理速率不错贴近何种极限。SRAM 就像放在 CEO 办公桌上的便签纸，无需恭候通告从档案室调取文献，抬手即可获取。这种"纳秒级"的反馈速率，关于构建着实具备及时交互感的 AI Agent 而言，是致命的竞争上风。

02 英伟达的"钞技艺"与 SRAM 的归来

英伟达彰着瞻念察到了这一范式转化的风险。尽管其在训诫阛阓占据完好意思总揽地位，但在低延长推理这一细分战场上，Groq 和 Cerebras 等创业公司正凭借 SRAM 架构撕开时弊。若是任由这种趋势发展，异日数据中心可能会演变为" GPU 作念训诫、LPU 作念推理"的双头姿色，英伟达的总揽疆城将被从角落蚕食。

昨年 12 月，英伟达斥资 200 亿好意思元获取 Groq 学问产权的非独家授权，其中包括其言语处理单位（LPU）和配套软件库，并吸纳了 Groq 中枢工程团队。这笔交往的策略意旨雄伟于财务数字。它意味着英伟达承认，在纯正的串行推理场景中，GPU 的架构如实存在短板，而 Groq 的 SRAM 有蓄意是目下最佳的补丁。

与此同期，SRAM 阵营的另一极也在快速壮大。凭据 Cerebras 官方败露，2026 年 2 月，Cerebras 文告完成 10 亿好意思元 H 轮融资，估值达到 230 亿好意思元。更引东说念主注视的是，OpenAI 与 Cerebras 签署了一份高达 100 亿好意思元的条约，部署多达 750 兆瓦的定制 AI 芯片。紧接着在 2026 年 2 月，OpenAI 推出了首个运行在 Cerebras Systems AI 加快器上的模子—— GPT-5.3-Codex-Spark 预览版，该模子救济跳跃 1000 tokens/s 的代码生成反馈速率，为用户提供更具交互性的编程体验。这一系列动作明晰地标明，头部大模子厂商仍是开动为下一代及时交互哄骗储备" SRAM 算力"。

凭据 GTC 2026 上崇敬发布的信息，英伟达并未采取将 LPU 单位 3D 堆叠在 GPU 中枢晶圆上的激进有蓄意，而是采取了更为求实的道路：Groq 3 LPU 看成寥落的推理加快器芯片，与 Rubin GPU 通过协同遐想的架构进行组合，共同组成 Vera Rubin 平台。云岫本钱此前的分析指出，若通过 PCIe 等外部接口辘集，数据传输会引入新的延长，部分对消 SRAM 的上风。

这意味着异日的 AI 芯片将出现复杂的异构内存层级：底层是负责 prefill 的筹备晶圆，中间层是通过 3D 堆叠提供的巨大 SRAM 缓存用于高速 decode，傍边则依然通过 CoWoS 封装着大容量的 HBM 用于存储海量凹凸文（KV Cache）。这种遐想既保留了 GPU 在并行筹备上的总揽力，又招揽了 LPU 在串行生成上的低延长上风，同期还能通过英伟达的 Dynamo 推理框架和 KV 缓存惩处系统，智能地路由不同的 token 恳求。

不错说，SRAM 的归来并非要"杀死" HBM，而是将内存层级推向一个更细腻化单干的多元时间。

03 机遇，来了

英伟达的本领转向，在本钱阛阓上激起了巨大的悠扬，也激励了一些真谛的误读。当"英伟达将推 SRAM 推理芯片"的音书传出后，韩国股市一度剧烈波动，阛阓担忧 SRAM 的使用会减少对 HBM 的需求，进而冲击三星和 SK 海力士的中枢业务。然则，这种担忧很快被专科机构澄莹为误判。

从物理特质看，SRAM 的单位面积是 DRAM 的 5 到 10 倍，每比特成本极高，注定无法替代 HBM 看成主内存的变装。即便 Cerebras 的 WSE-3 集成了 44GB SRAM，这已是工程上的名胜，但要存储一个 700 亿参数模子的全部权重，仍需要数百 GB 的存储空间，这只可由 HBM 或 DRAM 来承担。SRAM 的用武之地在于需要极致低延长的特定场景，比如 OpenAI 的代码生成器用，或者异日的物理 AI 机器东说念主——这些场景中，每毫秒的延长王人可能打断东说念主类的想维流或机器东说念主的动作连气儿性。

事实上，内存层级的细分反而会扩大统统阛阓的总领域。因为异日每一个数据中心可能王人需要同期配备用于训诫的 HBM 就业器和用于及时反馈的 SRAM 加快卡。HBM 负责承载模子的"耐久回想"，而 SRAM 负责处理需要"瞬时反应"的交互任务。两者是互补而非替代干系。韩系存储巨头需要警惕的，不是 SRAM 替代 HBM，而是若是 SRAM 加快卡大领域部署，GPU 的采购比例是否会发生变化，进而影响 HBM 的搭载率。

此外，当推理阛阓的聚光灯转向 SRAM，半导体产业链的受益逻辑也随之发生奥密变化。畴昔，HBM 的茂密主要利好的是专诚从事回想体制造的厂商。而目下，由于 SRAM 径直集成在逻辑芯片里面，依赖于先进逻辑制程，晶圆代工场的地位被前所未有地突显出来。

在这次 GTC 2026 上，台积电被供应链明确点名为"受惠第一滑"。SRAM 看成镶嵌式筹备中枢的一部分，其遐想与制造完全依赖于顶尖的逻辑制程工艺。不管是英伟达采取 N3P 制程打造下一代 LPU，如故 AMD、英特尔以及各大 ASIC 厂商跟进肖似的 SRAM 增强架构，最终王人要归来到台积电的先进产线。关于台积电而言，这不仅意味着更高的晶圆平均销售单价（因为芯单方面积增大、制程更先进），更自若了其在 AI 半导体制造领域的中枢关节地位。

与此同期，中国台湾的存储供应链也在这股海浪中找到了新的叙事空间。畴昔，由于其在圭臬 DRAM 和 HBM 领域的份额远不足韩系厂商，频频在 AI 存储盛宴中饰演陪跑变装。但 SRAM 道路的兴起，为他们翻开了一扇窗。这次 GTC 前后，阛阓关注点速即锁定了几产品备联想空间的台厂。

华邦电因其具备 SRAM 量产劝诫而受到关注，其定制化内存（CMS）业务中的 PSRAM（伪静态立时存取存储器），联接了 DRAM 的高容量与 SRAM 的高速接口特质，被视为在成本与性能之间的折中有蓄意 。力积电则通过其 3D AI Foundry 策略，展现了在多层晶圆堆叠与高容值中介层本领上的实力，具备了相连 SRAM 讨论代工的后劲 。此外，钰创的产品线隐蔽 38 纳米、63 纳米制程的 SRAM，容量范围刚好相宜 Groq LPU 采取的圭臬；而爱普则提供新一代 ApSRAM，在功耗和带宽上杀青倍数级擢升。

这标明，固然 SRAM 的中枢制造在台积电，但其讨论的 IP 遐想、利基型产品供应以及先进封安装套，为统统国产的半导体生态带来了增量契机。

站在此刻回望，SRAM 的归来像是一场本领的循环。在半导体历史上，每一次算力中心的转化，王人会追随存储层级的重构。当 AI 产业从训诫狂飙转入推理深耕，当用户体验的焦点从"模子有多大"转向"回答有多快"，咱们正在见证的不仅是英伟达一家公司的产品迭代，更是一个时间的切换。存储金字塔的尖端，阿谁也曾因为成本过高而被束之高阁的 SRAM开云(中国)Kaiyun·官方网站 - 登录入口，正在因为东说念主类对及时交互的渴慕，重新兴盛期望。