当小米玄戒O100、苹果M6系列与英伟达RTX 5090不约而同将内存带宽推向TB/s级别,AI硬件竞争的核心已悄然从计算峰值转向数据搬运速度。
AI计算的真正瓶颈:数据在路上
在过去的芯片竞赛中,厂商比拼的核心指标往往是算力峰值——每秒多少万亿次运算。但大模型时代的到来,悄然改写了这场游戏的规则。大语言模型在自回归生成阶段,每输出一个Token,都需要将内存中数千亿参数的权重完整读取一遍。计算单元再强大,大部分时间也在等待数据抵达,就像一座自动化工厂的机器臂再快,传送带送不上料来也是徒劳。
这种”内存受限”现象,本质上是经典冯·诺依曼架构的”存储墙”问题在AI时代的集中爆发。当模型参数规模以每年数倍的速度膨胀,而内存带宽的增长却受限于物理封装和功耗约束时,数据搬运便成了横亘在算力潜能与实际性能之间的天堑。这也解释了为何小米、苹果和英伟达会在同一时间窗口,不约而同地对内存带宽发起猛攻。
三条路径,同一个目标:TB/s时代全面降临
苹果的选择,是将统一内存的带宽优势发挥到极致。M6系列的三档配置——标准版170GB/s、Pro版307GB/s、Ultra版突破1.2TB/s——恰好标出了AI硬件内存带宽的三个门槛。苹果Mac产品营销总监Laura Metz直言,运行AI Agent时模型必须驻留在统一内存中随时待命,带宽提升数倍正是为此而来。这种”内存即算力”的思路,让Mac在端侧大模型推理中占据了独特身位。
小米则选择了另一条激进的工程路线。玄戒O100采用晶圆级垂直堆叠技术,将DRAM晶圆直接压在NPU上方,以物理距离的极致缩短换取1.22TB/s的带宽。
英伟达作为独立GPU的霸主,给出的答案是512-bit位宽配合GDDR7显存,RTX 5090狂飙至接近1.8TB/s的带宽。三条技术路径各有考量:统一内存胜在免拷贝的便捷性,晶圆堆叠赢在物理集成密度,GDDR7则凭借成熟生态守住性能天花板。但殊途同归的是,它们都指向同一个结论——数据喂给计算核心的速度,决定了AI硬件的真实战斗力。
内存带宽竞赛背后的行业格局重构
这场围绕内存带宽的竞赛,其意义远不止于单项指标的提升。它标志着AI硬件的评价体系正在经历一次底层重构:当各家计算核心的浮点运算能力都已逼近物理极限时,木桶的短板悄然转移到了数据搬运这一环节。核心数、频率这些传统指标,正在被TB/s级别的带宽数字抢去风头。
更值得关注的是,小米和苹果的入局,意味着这场战争已不再只是英伟达的独角戏。端侧AI的普及让NPU必须直面大模型的胃口,而统一内存和晶圆级堆叠等技术,正在将原本属于数据中心的高带宽能力下沉到消费级设备。谁能在数据搬运速度上建立真正的壁垒,谁就握住了下一个计算时代的入场券。
— END —
萌头条编辑部原创发布 · 转载请注明出处
