2026人工智能+大会|国产异构推理高品质AI Token工厂解决方案正式发布
(来源:环球网资讯)
来源:环球网
【环球网科技综合报道】11月3日消息,在近日举办的2026 人工智能+大会(2026 GAI+C)上,趋境科技联合智谱与摩尔线程正式发布“国产异构推理高品质 AI Token 工厂解决方案”。依托全系统异构协同实现推理加速,该方案率先打通“模型-推理-芯片”产业闭环,以底层系统工程大幅重塑“Token 经济性”,实现同等硬件投入下有效产出的成倍提升,并大幅降低综合成本。
对此,趋境科技创始人兼 CEO 艾智远表示:“大模型迈向商业闭环,算力成本是绕不开的第一道坎。当智能体与长文本把调用量推向指数级时,产业突围的关键在于攻坚底层系统工程,将算力储备转化为用得起、跑得稳的确定性生产力。此次发布的方案,正是通过系统级深度协同,跨越浅层适配的性能瓶颈,以算力经济性与生产级稳定性,真正实现从芯片、前沿模型到辐射全国核心产业规模化落地的全链路闭环。”
从输入理解到输出生成,大模型推理主要经历两个核心环节:用于快速解析上下文的 Prefill(预填充)阶段,以及负责逐字输出生成的 Decode(解码)阶段。传统方案多由同类硬件贯穿始终,往往难以兼顾两端截然不同的负载特征,不仅易造成局部性能闲置,更会推高综合部署成本。
据介绍,为了打破软硬件隔阂、让不同类型算力资源各展所长,本次全新发布的方案依托趋境科技首创的全系统异构协同推理技术,可实现异构资源的精准协同,让计算能力强的算力承载高计算密度的 Prefill 阶段,让显存带宽大的算力负责 Decode 阶段。趋境科技将集群中的 CPU、GPU、内存与高速网络整体纳入推理调度,在确保模型精度全链路无损、实施精细化跨卡协同组网,以及构筑毫秒级无损容错机制的基础上,打破单一芯片的性能瓶颈与异构协同的工程壁垒,在真实生产环境中将算力稳定转化为更高品质、更具经济性的 AI Token 产能。
在业务端,趋境科技国产异构 PD 相关方案已在生产环境全面投入使用,稳定承载万亿参数超大模型,并持续承接高并发真实业务流量。实测数据显示,趋境科技采用其国产异构方案,已经使得普通算力可以在企业核心生产环节落地。
在生态端,趋境科技正加速推进技术与交付标准的规模化复制,参与构建多地、多源的算力供应链网络。(青云)