后摩智能发布双路径存算技术路线 开源生态共拓端侧AI新蓝海
环球网
【环球网科技报道 记者 张阳】10月14日,以“从芯出发,向端而生”为主题的大模型赋能智能终端创新实践大会暨后摩智能生态合作伙伴大会在北京举行。会上,后摩智能正式公布2D CIM与3D CIM两条存算一体技术路径及中长期产品布局,宣布开源“后摩AI生态软件”,并披露核心产品M50量产不到一年已拿下超150个产品定点。作为国内存算一体大算力芯片的先行者,后摩智能正以底层架构创新破解端侧算力瓶颈,携手百余家产业链伙伴推动端侧AI从“能跑模型”向“被用户需要”的规模化阶段跨越。
北京经开区管委会副主任、市集成电路重大办主任历彦涛在会上表示,以集成电路为核心的新一代信息技术产业已成为北京亦庄的第一大主导产业,后摩智能作为经开区重点引进的存算一体芯片骨干企业,为当地构建“芯片+AI+智能终端”的融合创新格局注入了核心力量。北京集成电路学会秘书长陈小男则指出,芯片的价值最终要靠终端场景来验证,行业协会将持续支持后摩智能深化存算一体技术研发,推动更多创新成果在终端落地。
Agent时代重构算力规则双路径破解“不可能三角”
随着AI从“回答问题”走向“自主执行任务”,Agent场景的爆发让词元(Token)消耗量呈现数量级的跃升,端侧芯片同时面临算力、带宽、容量、功耗与成本的多重约束,传统冯·诺依曼架构的效率瓶颈日益凸显。
“过去大家只在意算力,现在词元(Token)成本和能效突然成了核心指标,云端和端边都开始重视。”会后接受媒体采访时,后摩智能创始人、CEO吴强表示,Agent的出现把芯片的评价维度从“算力+带宽”二元指标拓展到算力、带宽、容量、延时、功耗、成本等多个维度,“相当于从‘不可能三角’变成了‘七八角难题’,纯粹靠传统GPU架构已经无法满足,必须靠底层架构创新来破局。”
基于六年的SRAM-CIM技术积累,后摩智能在会上明确了2D CIM与3D CIM两条并行技术路线,分别匹配不同场景的需求:2D CIM结合SRAM-CIM与存储配置,面向更大容量需求持续演进,对成本更敏感的场景更具优势;3D CIM通过先进封装将逻辑计算层与存储层深度协同,面向更高带宽需求布局,解决传统架构中算力与带宽不可兼得的痛点。
后摩智能联合创始人、产品副总裁信晓旭介绍,两条路线本质是不同场景下的技术取舍,最终目标都是提升单位成本与单位功耗的词元(Token)产出。“产业是螺旋变化的,存储价格不可能永远处在高位,我们的产品布局充分考虑了存储价格波动的周期:当存储成本高企时,用带宽更高、内存更小的技术路径解决问题;当存储价格回落时,再以容量取胜。”
针对当前存储价格高企的行业痛点,后摩也在通过多维度技术手段对冲成本压力。后摩智能CTO王振江透露,团队一方面通过MoE模型编码等软件优化,将模型部署到更便宜的存储介质上,减少DRAM用量;另一方面也在规划Flash等新型存储介质方案,探索能效与成本的更优解。“我们不会单纯比拼成本,而是通过‘人无我有’的独特价值,让客户优先选择我们的方案。”
商业化放量超预期,边缘计算成意外增长点
六年技术积累正在加速转化为商业化成果。会上披露的数据显示,后摩智能M50芯片量产不到一年,已获得150多个产品定点,服务客户超百家,覆盖Agent Computer、智能移动终端、具身机器人和边缘推理四大应用场景。
吴强透露,今年是后摩真正放量的元年,收入增长主要来自Agent Computer与边缘推理两大板块,增速超出公司预期。“Agent Computer不管ToC还是ToB都起量很快,金融、医疗、教育等行业都有大量落地需求;边缘推理领域的AI-RAN、词元(Token) factory等场景,因为Agent带动词元(Token)需求爆发,增长也超过了我们的预判。”相比之下,智能终端PC和具身机器人仍处于渗透前期,未来潜力更大。
值得注意的是,边缘推理并非后摩最初的核心目标场景,却凭借存算一体的低功耗特性意外打开了市场空间。“很多边缘机房和机柜的供电条件受限,传统高功耗GPU一个机柜只能放几台,甚至无法满配。”信晓旭坦言这属于“无心插柳柳成荫”,“我们的芯片功耗低,一个机架可以摆满设备,无论是前期资本开支还是后期运营成本都有显著收益,这是产品规划时完全没有预料到的惊喜。”
客户结构方面,后摩智能目前以商业客户为主,同时稳步推进信创市场落地。其芯片已进入联想等头部终端厂商供应链,并且实现了海外市场突破。
开源生态破局CUDA壁垒,共创Agent Computer新物种
芯片的规模化落地离不开软件生态支撑,英伟达CUDA生态一直是国产AI芯片必须跨越的门槛。不过行业人士普遍认为,在端侧推理场景,CUDA的壁垒远低于云端训练场景。
“云端训练的CUDA壁垒很高,但端侧推理的硬件权重更大,客户愿意为了更低的功耗、更高的效率接受非英伟达方案。”吴强表示,后摩不会去模仿CUDA,而是走差异化路线:“我们把前端做得尽可能靠近CUDA,降低客户迁移成本;更核心的是靠数倍于传统架构的效率优势,吸引客户主动迁移。”
此次大会上,后摩智能正式宣布开源“后摩AI生态软件”,将不同项目中积累的模型适配、编译优化和开发经验开放给全行业,涵盖模型支持、开发工具和参考设计三大板块。
“端侧AI的产业要素已经齐备了,模型、芯片、应用平台都跟上了,但靠我们一家覆盖不了150多个产品的适配需求。”信晓旭解释了开源的底层逻辑,“我们把底层硬件的差异化屏蔽掉,让开发者用熟悉的上层框架就能开发,目的是吸引更多产业资源进来,形成‘应用落地快→更多伙伴加入→生态更完善’的正反馈飞轮,加速整个端侧AI的商业化进程。”
王振江补充,开源的目标就是降低开发者的感知门槛:“用户不需要知道底层是存算一体还是传统架构,只觉得芯片跑起来更快、更省电,这就是我们想要的效果。”
会上,后摩智能还联合CPU、操作系统、模型、推理框架等领域的企业代表,共同启动“Agent Computer·共创未来”计划及《Agent Computer发展趋势与产业实践白皮书》共创项目,围绕用户洞察、产品案例和联合传播开展合作,共同推动Agent Computer这一全新品类的创新与落地。
锚定“免费词元(Token)工厂”稳步行进资本化
面向未来,后摩智能将自身定位为“端侧免费词元(Token)工厂”的算力底座,目标是让端侧词元(Token)的边际成本趋近于零,实现绝大多数推理需求无需依赖云端。
对于这一目标的落地节奏,吴强判断目前已经临近临界点。“当端侧模型能力和芯片性能跨过某条阈值,能满足95%以上的日常需求时,就真正实现了免费词元(Token)工厂。按照现在的技术进步速度,最多一两年就能达到这个节点。”
针对近期端侧AI芯片融资热潮,后摩智能联合创始人、战略副总裁项之初表示,产业发展总会经历波峰波谷,后摩不会被市场节奏带着走,始终坚持自己的技术与业务节奏。“波峰的时候盲目扩张,波谷的时候再收缩,对团队伤害很大。我们的节奏很稳:先做片内存算,解决算力密度和效率问题;再扩展到片外,解决带宽、容量、成本问题,一代一代稳步推进。”
“大模型推理与应用是未来十年到十五年的产业主题,中间会有坎坷,但长期方向确定。”吴强表示,后摩不会去预判下一个爆点场景,而是专注于把算力底座打好,把存算一体的生态位站稳。“中国不缺应用创新,产业要素齐备的时候,机会自然会来。我们做好自己,等风来。”