体育游戏app平台单token资本降至H100的1/4-星空体育综合·(中国)官方网站 登录入口
新闻动态
北京时候3月17日凌晨2点,英伟达CEO黄仁勋在GTC 2026主题演讲中矜重发布了Groq 3 LPU(Language Processing Unit,话语惩处单位)推理芯片,并将其纳入新一代Vera Rubin AI平台。 这是英伟达旧年底与Groq罢了时间许可公约后,初次将LPU以量产居品方法推向市集。黄仁勋在会上示意,三星正全力加快分娩这款芯片,基于Groq 3的LPX机架展望本年下半年面世。 就在GTC开幕前夜,天风海外证券分析师郭明錤发文称,英伟达投资Groq后,LPU的出货量预
详情
北京时候3月17日凌晨2点,英伟达CEO黄仁勋在GTC 2026主题演讲中矜重发布了Groq 3 LPU(Language Processing Unit,话语惩处单位)推理芯片,并将其纳入新一代Vera Rubin AI平台。
这是英伟达旧年底与Groq罢了时间许可公约后,初次将LPU以量产居品方法推向市集。黄仁勋在会上示意,三星正全力加快分娩这款芯片,基于Groq 3的LPX机架展望本年下半年面世。
就在GTC开幕前夜,天风海外证券分析师郭明錤发文称,英伟达投资Groq后,LPU的出货量预测已大幅上调。他展望2026至2027年LPU总出货量将达到400万至500万颗,新架构机柜展望本年第四季度启动量产,2026年机柜出货量约为300至500个,2027年增至15000至20000个。
在英伟达将LPU推向前台的同期,国内已有多家上市公司围绕这一时间道路布局。
LPU作念了什么
在本年GTC的两个多小时演讲中,“推理”(inference)一词出现了近40次。
“本年GTC开释出的一个激烈信号,是推理期间正在加快到来。”云天励飞(688343.SH)干系负责东说念主向财联社记者示意。
他分析称,跟着Agentic AI从“会对话”走向“会作念事”,大模子正在越来越深地镶嵌到责任流中,AI正从对话器具迈向约略拆革职务、调用器具、实行过程的劳能源。一朝AI投入分娩技艺,行业最顺心的就不再仅仅模子够不够强,而是算力能不成算得过来。
黄仁勋这次反复强调的一个中枢倡导是“token工场”:在既定电力、空间和资本拘谨下,让数据中心产出更多、更快、更有贸易价值的token。他在演讲中建议,token是AI期间的硬通货,缱绻智商便是企业的收入。
而LPU恰是为了提高这座“工场”效果而生的。
云天励飞干系负责东说念主向财联社记者分析了其中的时间逻辑:大模子推理过程不错拆成prefill(预填充)和decode(解码)两个阶段。Prefill阶段需要高并行算力、大内存容量和高模糊,Decode阶段则需要低时延、低抖动和快速反馈。英伟达在GTC上推出的Vera Rubin和Groq 3 LPU,分辩面向这两个阶段。
他进一步指出,并非通盘这个词decode阶段齐交给LPU,而是其中token生成技艺由LPU施展上风。Rubin GPU仍持续惩处prefill和decode中的attention缱绻。
黄仁勋在演讲中也给出了具体的配比建议:约25%的数据中心部署Groq,其余75%部署Vera Rubin。他示意,如若用户的责任东要触及编码等高价值token生成任务,加入Groq后收益更露出。
在性能方面,智微智能(001339.SZ)在本年3月举办的投资者雷同中示意,凭据Groq CEO在2024年ISSCC(海外固态电路大会)上公布的实测数据,LPU的token生成速率达到英伟达H100 GPU的6倍,单token资本降至H100的1/4,推理能耗降至H100的1/3。
LPU的速率上风来自其架构联想。
与GPU接受的通用并行缱绻架构不同,LPU接受详情趣数据流惩处器架构,由编译器在编译阶段完成通盘疗养,运行时不需要动态仲裁。同期,LPU配备大容量片上SRAM(静态赶快存储器),数据径直集成在芯片上,造访延伸远低于GPU从外部显存读取数据的神气。
智微智能在投资者雷同会中将这一互异作念了形象证据:LPU的静态编译疗养肖似于高铁运行图,通盘时刻表提前详情,拥挤概率极低;而GPU的动态疗养则肖似高速公路解放行驶,个体的赶快性在数学上势必导致系统性拥挤。
英伟达方面线路的数据线路,Vera Rubin与Groq 3 LPU商量部署后,每兆瓦token生收效果可进步35倍。当今Groq 3 LPU由三星代工,已量产LP30芯片,LPX机架单机柜可容纳256颗LPU,展望本年第三季度出货。
云天励飞干系负责东说念主以为,GTC 2026开释的不仅仅英伟达一家的居品信号,而是通盘这个词行业正在酿成共鸣:推理期间拼的不再仅仅峰值参数,而是能否围绕不同任务的缱绻特征作念更密致的优化,让每一份算力齐用在该用的场所。
国内谁在跟进
LPU从倡导走向量产,国内上市公司已启动布局。
芯片联想端,智微智能近日通过曜腾投资参股了杭州元川微科技有限公司。元川微是国内基于LPU架构的算力芯片公司,自研了硬数据流架构与全资源编译器,推出了面向大模子和端侧运用场景的Mountain(算力)和River(Agent)两大系列居品。
智微智能在投资者雷同中示意,公司通过与上游芯片原厂的绑定,旨在强化从考研端到推理端的卡位,增强在AI处事器、具身智能、边际及端侧领域的居品智商。该公司在投资者雷同中还示意,将来推理算力占比将达90%,考研仅占10%,LPU有望在推理市齐集占据主导地位。
此外,星宸科技(301536.SZ)也对元川微进行了多轮增资。
云天励飞则从芯片架构层面跟进了肖似的时间道路。公司已公开建议GPNPU(通用可编程神经聚集惩处器)时间道路,围绕大模子推理场景谋略了P芯片和D芯片,分辩面向prefill和decode阶段优化,同期通过3D堆叠存储来缓解推理链路中的带宽瓶颈。
云天励飞干系负责东说念主称,如若说英伟达这次是在用 Rubin + LPX 展示“推理异构化”的环球样本,国内厂商围绕PD分离、存储协同握续鞭策推理架构改换,本体上正在沿着消失条产业标的前进。
万通智控(300643.SZ)也在LPU领域有所行为。公司参股了深明奥想(握股5.66%),锁定其LPU板卡在具身智能域控领域的环球独家制造与销售权。深明奥想的LPU芯片Fellow 1于本年一季度流片,二季度投入送样测试。
在上游供应链方面,LPU的领域化运用也将为PCB(印刷电路板)行业带来增量。
光大证券在近期发布的研报中指出,由于单颗LPU的片上SRAM容量有限,运行大领域模子需要数百颗LPU串联,所需PCB载板面积较纯GPU有商量将数倍加多。同期,LPU对PCB材料条目更高,展望将使用52层M9级覆铜板。上述变化将带动PCB面积需乞降加工难度同步高潮。
当今,沪电股份(002463.SZ)、胜宏科技(300476.SZ)、深南电路(002916.SZ)等公司均有高端PCB业务。

- 上一篇:星kong体育网其余居品尚在研发均无样机-星空体育综合·(中国)官方网站 登录入口
- 下一篇:没有了
