新浪财经 股票

科大讯飞发布星火X2.6端云一体大模型,首次依托全国产算力

市场资讯 10.22 20:57

(来源:凤凰WEEKLY财经)

10月22日,科大讯飞宣布推出端云一体星火X2.6大模型,同步发布配套的全国产“云+端”协同方案。

本次发布的星火X2.6为MoE架构,参数规模293B-A30B,上下文窗口拓展至100万token。官方介绍,该模型是首次依托全国产算力,完成代码与智能体能力的突破。针对国产芯片显存、带宽约束,模型配套长程任务动态并行训练技术,超长上下文训练效率提升约4倍;同时搭载四层KVCache分布式推理技术,推理效率提升4.5倍。

星火X2.6包含云端主力模型与轻量化端侧版本Spark-X2.6-4B。按照现场介绍的端云协同设计,60%的AI应用任务可在本地终端完成,原始数据不上传云端;30%场景依靠端侧与云端协同处理;剩余10%高难度任务,调用云端大模型运算。该架构试图平衡数据安全、算力成本与任务效果。

科大讯飞董事长刘庆峰在现场表示,端云一体化方案,用于调和大模型安全性与推理成本之间的矛盾。

加载中...