新浪科技

体积仅1.6L、重约1.5kg!联想首款国产AI主机来了!

快科技官方

关注

近日,联想开天推出首款信创 AI 主机。体积仅1.6L、重约1.5kg,最高可配 320 TOPS INT8 算力,预装麒麟操作系统和本地智能体。消息一出,"能装进盒子的纯国产 AI 主机""口香糖大小的 M.2 算力卡""AI 算力不再按 Token 计费"这几个说法,迅速在科技圈引发关注。

一个1.6L的小盒子,为什么能引发这么多讨论?过去想让大模型"跑起来",要么租云端算力,要么专门腾出一间屋子养设备。这次的 AI 主机把这套东西压进了 1.6L 的机身里,一只手就能拎走,直接摆工位上,不用机房。

但"小"不代表"弱"。据介绍,它采用兆芯处理器与后摩智能 NPU 构建的国产异构计算平台,最高 320 TOPS INT8 算力,面向 AI 应用支持 MoE 122B 超大模型本地推理,可处理最高 20 万 Token 长上下文,承载复杂文档分析、知识问答和智能体任务等应用。

联想开天这台AI主机一经推出就引发大家热议,主要是它完成了过去大家想要而不敢想的事情,具体来看:

没想到之一:算力卡只有口香糖大。 承担 AI 推理核心的,是一张 M.2 规格的国产算力卡,尺寸跟一片口香糖相仿。跟传统又大又热的独立显卡摆在一起,反差感拉满,也难怪照片一出来就被到处转发。

没想到之二:不用再按 Token“交话费”。 云端大模型是调用一次算一次钱,任务越长、用得越久,账单越长。本地推理则是一次部署、长期使用,不产生持续调用费。有网友调侃:这回 AI 终于从“按月租”变成了“买回家”。

没想到之三:数据不用出门。 模型装在机器里,资料留在硬盘里。对财务、法务、政务窗口这类“材料不能外传”的岗位,这一条比算力数字更打动人。

可以说,这次产品最直观的变化是模型能力的台阶,MoE 架构的 122B 大模型可以在桌面本地推理,意味着复杂文档分析、知识问答、智能体任务这类"重活",不必再依赖云端。

单看产品,是一台摆在桌角的机器,往大了看,是国产 AI 产业链第一次在"桌面级"凑齐了一整套。

国产 CPU、国产 AI 加速芯片、麒麟操作系统、开源大模型,软硬件协同。这几年各环节各自往前走,如今被整合进同一台可交付的终端设备里。不少业内人士表示,这意味着国产 AI 能力正从“单点能用”走向“整机好用”。

随着智能体应用常态化,重复的信息整理、资料检索、任务执行,越来越多会交给机器;人则把精力放在定目标、做判断、审结果上。算力也不再只待在云端,"云端训练 + 桌面本地推理"正在成为一种新搭配。

当然,桌面级本地推理还在起步阶段,能跑多大的模型要看显存与量化配置,行业应用够不够丰富,也得靠开发者生态慢慢补。但至少从今天起,“在公司放一台自己的 AI”,不再只是技术圈的一句设想。

加载中...