新浪科技

观察|国产GPU从“能用”走向高价值竞争:比拼有效算力与商业化能力

澎湃新闻

关注

国产GPU的竞争,正在从性能追赶转向应用价值比拼。

10月28日,国产GPU企业天数智芯(09903.HK)举办2026媒体开放日活动,首次面向媒体开放天垓300实机演示。公司披露的第三方实测结果显示,在典型的Prefill与Decode(PD)分离部署条件下,天垓300折算单卡整体端到端吞吐达到英伟达H200的1.05倍。

这一结果意味着,国产通用GPU开始在特定复杂AI任务中与国际主流产品直接对标。但性能接近只是第一步,随着国产GPU进入更多实际应用,竞争焦点正从芯片参数转向有效算力、软件生态、系统效率与投入产出比。

从峰值算力到有效产出

对于AI芯片而言,理论算力并不完全等于实际业务能力。大模型推理涉及长上下文、混合专家模型(MoE)和多模态生成等不同负载,最终表现还取决于显存、互联、软件适配和部署方式。

天数智芯性能实验室的测试显示,在64K长上下文场景下,天垓300的Attention性能达到H200的1.05倍;在GLM-5.3模型、64K上下文场景下,MoE吞吐达到H200的1.15倍。在8K至128K长上下文场景中,其Agent首字延迟较H200降低约10%至30%。在搜索、广告和推荐等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。

这些指标指向同一个变化:客户关注的不再只是芯片能达到多高的理论算力,而是在满足模型精度和服务要求的前提下,单位时间能处理多少请求、产生多少有效Token。

随着大模型应用规模扩大,Token工厂成为检验算力效率的重要场景。天数智芯还展示了天垓300 IXL144超节点方案,可在一个标准机柜内集成144颗GPU、聚合约10.1TB显存。公司测算,该方案每百万有效Token成本较国际主流方案可降低约40%。

不过,实际Token成本还受到设备采购、功耗、互联、利用率和运维等因素影响,单项性能测试或成本测算仍需在客户的规模化部署中得到验证。

软件生态决定性能能否兑现

硬件性能之外,软件生态是国产GPU商业化绕不开的一道门槛。模型适配、算子优化和部署调试需要投入大量工程资源,如果使用门槛过高,硬件性能就难以快速转化为业务价值。

此次开放日上,天数智芯展示了将Agent技术引入GPU软件栈的探索,让AI参与环境部署、性能调优和代码开发。

天数智芯披露,在一项大模型PD分离部署测试中,环境准备与服务部署时间从1小时缩短至10分钟;在某大模型调优任务中,工作周期从7天缩短至2小时以内,相关任务运行性能较优化前接近翻倍。

这类工具的价值,在于降低模型迁移与优化成本,缩短新模型适配周期,并减少开发者对厂商技术支持的依赖。国产GPU的竞争由此从芯片设计延伸至软件工具、工程经验和开发者生态。

与此同时,天数智芯还展示了GPU与其他加速芯片协同的异构计算方案。在其注意力-前馈网络解耦分离(AFD)方案中,GPU与合作厂商的XPU分别承担不同计算任务,公司称实测可将解码推理延迟降低60%。这也表明,未来算力系统的竞争未必是单一芯片的比拼,如何组织不同计算资源、提高整体效率,同样重要。

从云端走向端侧,拓展应用空间

除数据中心外,国产GPU也在向机器人、工业现场和本地AI应用延伸。

天数智芯展示的彤央TY1200端侧算力终端,标称300 TOPS稠密算力。公司披露,在相关大模型实测中,其性能达到英伟达Thor T5000的1.2倍;在Cosmos-R2-2B和Cosmos-R2-8B测试中,性能分别达到Thor T5000的158%和180%。

端侧算力的价值,不只是将云端能力缩小,而是让AI在本地完成推理、仿真和决策,满足实时响应、数据安全等需求。公司还展示了机器人本地物理仿真、工业视觉识别等应用,并预告下一代端侧产品彤央TY2000,标称稠密算力将达到600T。

但端侧市场对功耗、可靠性、产品形态和场景适配提出了不同要求,能否形成可复制的解决方案并持续获得客户采用,仍是商业化需要回答的问题。

从天垓300的云端算力,到软件栈的自动化开发,再到彤央系列向端侧延伸,天数智芯此次展示了覆盖芯片、软件与系统的产品布局,也折射出国产GPU产业竞争维度的变化。

这并不意味着国产GPU已经完成对国际领先产品的全面追赶。不同芯片在模型覆盖、生态成熟度和规模化交付等方面仍有差异,特定场景的测试成绩也不能直接代表整体竞争力。

但行业评价标准正在变得更加务实:芯片性能决定起点,软件生态影响推广效率,系统交付决定应用落地能力,而成本、利用率和持续服务能力,最终影响产品的商业竞争力。

国产GPU从“能用”走向高价值竞争,核心不只是实现硬件替代,而是证明自身能够在真实业务中持续提供高效、稳定且具备经济性的算力。

澎湃新闻记者 周玲

加载中...