新浪科技 股票

Momenta、台积电、图灵奖得主都来为这颗芯片站台,智驾芯片进入“大模型定义”时代?

市场资讯 10.30 19:42

(来源:财闻)

财闻 李向磊 发自苏州

“让大模型定义芯片,让芯片承载大模型的下一次进化。”

10月29日,XHEART新芯航途CEO李宗霖在苏州举行的发布会上,用这句话概括了公司的技术方向。当天,XHEART正式发布大模型芯片X7 Ultra,以700 TOPS大模型算力、六大产品优势,将“大模型定义芯片”的理念转化为产品能力,并携手产业伙伴展示量产成果、公布下一代芯片X9的研发目标。

与通用芯片设计逻辑不同,大模型定义芯片的设计逻辑不再是让模型去“适配”芯片的通用能力,而是让芯片的物理架构去“匹配”大模型特定的计算与访存模式。尤其在智能驾驶领域,正从多个小模型分工协作,走向端到端大模型,模型架构的变化,对芯片提出了新的要求。

“从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转”。XHEART相关负责人告诉财闻,公司在创业之初便确立了“大模型定义芯片”的技术路线,团队从芯片定义阶段就与算法团队共同研究模型架构和关键算子,为未来几年的模型演进提前做好准备。新发布的X7 Ultra的700 TOPS大模型算力基于真实量产智驾大模型评测,并以量化部署后模型输出与训练后FP32浮点模型的相似度达到99.99%以上为约束,让芯片优化直接面向量产要求与驾驶体验。

大模型定义的芯片有何优势?

通用芯片的设计前提是“一颗芯片跑所有任务”,其架构在模型形态相对稳定的年代是高效的,但当下大模型本身在快速迭代,“先做芯片,再让模型适配”的节奏使得芯片与大模型匹配存在一定滞后。比如,一款车规芯片从定义到量产需要三到四年,而模型核心架构可能在两年内就已换代。

大模型定义芯片采取了新的设计思路,即先深入理解模型的算子特征、数据流和访存模式,再据此反推芯片的物理设计,相较通用芯片更适配大模型。

以X7 Ultra为例,XHEART方面介绍,该芯片围绕大模型对计算、精度、带宽和系统协同的需求,形成六大产品优势。

首先,X7 Ultra专为大模型设计了超大核NPU。顺应模型计算集中化趋势,将传统小核之间百GB/s级的数据交互,聚合至超大核内部TB/s级的高速互联,实现带宽数量级提升。同时,为关键算子配置高精度专用加速引擎,让计算与数据交互更高效,让算子执行又快又准。

其次,硬件并行度解锁。通过底层软硬协同,让更多计算单元同时工作,并使计算与权重加载并行,减少等待,充分释放硬件能力。基于量产智驾大模型实测,X7 Ultra NPU计算利用率达到98.7%。

第三, AI工具链重构。通过整网级融合,对整个模型的计算任务统一编排与优化,减少中间结果反复读写外部内存。结合全新NPU架构与硬件并行能力,X7 Ultra释放700 TOPS大模型算力,内存带宽消耗较行业旗舰产品下降80%,能效提升100%。

第四, X7 Ultra作为中国首发量产Armv9车规级CPU,能承担复杂控制与系统调度,提升多核协作能力,让整颗芯片高效协同,支撑持续演进的智驾系统。

此外,在深度异构计算和安全性方面,X7 Ultra通过专用计算单元实现本地任务、本地处理,激光雷达处理带宽最高达2000万点/秒,传感器预处理稳定性提升100%,为系统及时、稳定响应提供支撑;同时,X7 Ultra满足ISO 26262 ASIL-B功能安全要求,内置MCU通过ASIL-D认证,以高效算力与模型迭代空间支撑行驶安全,为智驾系统系好安全带。

“通过架构与工具链协同创新,X7 Ultra支持可部署模型参数量实现10倍提升。”李宗霖在发布会上透露,X7系列已量产8个月,累计出货超过20万颗,搭载10款量产车型,获得超过40款车型订单。

携手产业伙伴,深化软硬协同

“大模型定义芯片”的背后,是XHEART与产业伙伴对技术方向的共同判断。发布会上,Momenta CEO曹旭东首次公开分享公司的第三个洞察:“大模型定义芯片。”

曹旭东表示,这一判断形成于2022年底,并由Momenta与XHEART共同付诸行动。在他看来,大模型定义的芯片,相比通用芯片,性能能够提升10倍。而实现规模化L4,需要百亿至千亿参数模型。如何在车端成本、功耗和可靠性约束下承载这样的模型,要求双方从模型需求出发,协同设计芯片。

XHEART即将发布的R7 Ultra,将展现这一协同的最新成果。据了解,基于X7 Ultra的支撑,R7 Ultra的模型参数规模扩大5—10倍,安全性能提升5—10倍以上,推动世界模型从“理解世界”走向“推演世界”。

曹旭东表示,大模型芯片正在加速智驾摩尔定律。2022年至2026年,智驾能力每两年提升十倍,推动城市NOA从早期探索走向应用引爆点与加速普及。面向未来,推动这一规律迈向每年十倍提升,关键是“大模型定义芯片”。他判断,L3和L4有望于2028年迎来重要引爆点,并在2030年走向规模化落地。

要让模型需求真正进入芯片架构,协同必须从设计之初开始。发布会上,图灵奖得主Jack Dongarra教授表示,让算法、软件与芯片团队在设计定型前紧密协作,是面向大模型时代更加行之有效的研发方式,XHEART改善了芯片内部及芯片之间的数据搬运效率,是软硬协同优化的重要方向。

从协同设计走向规模量产,先进制造是重要支撑。台积电副总经理陈平在发布会上表示,先进工艺通过持续提升性能、能效与集成度,为大模型提供计算基础。台积电已为X7 Ultra提供工艺支持,并表示将持续以先进工艺支持XHEART创新:“我们的工艺已经准备好了。”

值得注意的是,发布会上,面向下一代更大规模的模型,XHEART公布X9的核心研发目标:3000 TOPS大模型算力、700GB/s单芯片内存带宽,计划于2027年推出。通过计算与访存能力同步提升,X9将继续围绕下一代世界模型推进软硬协同设计。

加载中...