半年20余倍增长,一个中国Token工厂的生意飞轮
虎嗅APP
出品|虎嗅科技组
作者|陈伊凡
编辑|苗正卿
头图|AI生成
过去两年,Token的生产成本一直在下降,但售价却一直涨。
看起来前后矛盾的事,背后是一笔基于Token商业模式逐渐成熟而成立的生意。
硬件和模型,这几年不断优化迭代,几乎都指向同一个方向:更便宜的推理、更低廉的算力。
但另一面,是逐渐成熟的智能体以及已经闭环的业务。“真正靠AI赚到钱的人,根本不会被价格劝退,只会默默想办法降本。”夏立雪说,他几乎没有任何思考时间就下了这个判断,似乎是已经提前看明白了这个问题。他是无问芯穹的联合创始人兼CEO。这家2023年成立的、与清华大学电子工程系有深厚渊源的公司,做的一部分事情,在行业里有一个越来越流行的说法:Token工厂。
可能很难在市场上找到对标无问芯穹模式的公司,其卡住了一个此前未被发现的场景,或是长在了随着AI需求拉动而新诞生的结构洞上的创新模式。它不研发通用大模型,不做芯片,也不做面向C端的应用,它坐在芯片和模型之间,把供不应求的算力资源进行调度、匹配、优化,更高效地转化为Token,芯片厂商、模型厂商、应用厂商等各方都需要在无问芯穹的Agentic Infra体系上集成,由无问芯穹进行调度和分配,这是一种由技术领先的软件与算法定义的商业模式。
这种特殊的模式让无问芯穹比任何一个在Token产业链上的公司都能率先感知始于青萍之末的变化。
我在上海模速空间无问芯穹的会议室见到夏立雪,黑色的公司文化衫,语速极快,说到技术问题,似乎进入一种“心流”状态。模速空间是上海AI创新的核心,以无问芯穹为圆心的2公里,产业链的上下游在此汇聚。
夏立雪本人 图片由无问芯穹提供
据公司今年5月披露,去年12月到今年4月底,无问芯穹的Agentic MaaS业务中,Token调用量增速超过20倍,这是过去从未有过的增长。
这个数字背后,是一件已经成为现实的事:推理,正在成为比训练大得多的市场。
过去三年,AI产业的叙事主线是训练。谁有更多GPU,谁训练出更大的模型,谁就站在食物链顶端。算力竞赛的逻辑清晰粗暴:堆卡、堆电力、堆钱。英伟达的H100在黑市上卖到六位数美元,甚至要靠提前囤货。
但2025年底开始,这个逻辑变了。2026年推理的数据量首次超过了训练。根据国际数据机构统计,2026年全球企业在推理基础设施上的资本支出预计达680亿美元,而训练基础设施支出为450亿美元。
当AI不再只是回答一个问题,而是要完成一项复杂的任务:写完整的代码、审阅一份合同、持续跟进一个项目,它消耗的Token数量是聊天场景的几十倍甚至上百倍。无问芯穹的数据是,在其 Agentic MaaS 平台调用的 Token 中,95%以上都是智能体场景。
推理需求的爆发,正在把AI产业链的价值重心往下移。芯片制造商、模型公司、云服务商,每一层都在重新定价,而位处中枢的基础设施服务商,正在从“管道”变成“工厂”,又从工厂变为在价值链拥有更大影响力的Token生产力转化。
衡量这个工厂运转得好不好,无问芯穹内部有一个指标:每月能产出多少有价值的万亿参数级模型的Token。这个指标拆开来看,有两个衡量标准,一个是效率:单位时间的token产出量;另一半是稳定性,系统能不能连续不宕机地跑下去。两个指标,在万亿参数大模型场景下,无问芯穹过去一两年实现了5到10倍的性价比提升。
在无问芯穹,有一个公式:AI生产力=智能规模*Token生产效率*Token价值转化。
当Token业务在产业中能实现商业化闭环的时候,就能为市场提供更充沛、更稳定、更高性价比的优质Token,进而在产业内获得口碑,吸引更多用户使用。
拿到更多需求之后,也能提炼出更好的优化空间,一方面是接触到更多真实场景,可以明确不同优化技术在场景中的价值;另一方面是需求足够多的情况下,资源分配的调整空间更大,需求种类越丰富,和非同质化资源的适配可能性就越多,M 种模型乘以N种芯片的优化空间也会越来越大。
这也解释了为什么agent的崛起对无问芯穹是一个乘数效应,而非加法。
在这套公式下,飞轮正在转动。
推理需求爆发,国产芯片和解决方案正在迎来全新的机会,这件事与曾经在这个领域常见的国产替代叙事截然不同。中国芯片厂商对成本的敏感和工程化的能力,正在为这个产业链带来在全球市场角逐的竞争力。
AI算力市场的现实是:芯片种类越来越多,但没有哪一张芯片能高效跑所有任务;模型规模越来越大,单机八卡早就存不下万亿参数的模型,需要集群协作;不同的推理任务,对延迟、吞吐量、精度的要求截然不同。这一切叠加在一起,让“把算力用好”这件事,变成了一个极其复杂的系统工程问题。当然,这也是中国工程化能力优势的体现。
这个判断在推理侧,prefill和decode的分离上得到了具体验证。大模型推理分为两个阶段:prefill负责理解输入、构建上下文,计算密集;decode负责逐步生成输出,通信密集、对延迟更敏感。两种任务对芯片的要求完全不同。这是AI算力精细化需求下爆发出的新的场景。
依托团队长期在软硬协同等方面的技术积累,无问芯穹很早就开始深度研究P/D分离,把两类任务分配给更适合的芯片——国产芯片在prefill场景已经可以落地,这意味着供不应求的市场里,国产算力有了真实的着力点,不再是非黑即白的“能不能用”,而是“在哪里用最合适”,甚至是“用好”。
无问芯穹以token作为其AI生产力公式的核心变量之一,是在2026年,这意味着整个公司的优化目标,变为在“怎么把芯片用满”的基础上,还要解决“怎么让每一个Token产生最大价值”——技术优化节省的成本,直接转化为毛利,再投入下一轮研发,形成正向循环。Token,正在成为AI产业里最接近货币的单位。它可以被生产、被消耗、被定价、被交易。
更大的判断,夏立雪用了一个类比:Token的爆发,像极了移动互联网从3G到4G的阶段。
但他补了一句,4G时代最重要的“应用”不是微信,也不是淘宝,而是那些充分使用流量、敢于在流量便宜之后重新设计组织的公司。到了token时代,真正改变产业格局的未必是某一款杀手级AI应用,而是那些用AI重构内部分工、让人和AI真正协作起来的小型组织——十人、二十人,甚至一两个人,但生产效率远超传统同规模团队。
无问芯穹团队讨论 图片由无问芯穹提供
这类组织已经在出现了。“现在不用担心没有应用场景,核心是我们能不能接得住这么多需求。”
这句话引出了无问芯穹正在做的下一步:跳出纯token工厂的边界,开始介入Token的生产力转化环节。
结构洞上长出的创新模式
虎嗅:当华为、中兴等这些系统厂商他们也在用集群的方式提高Token的性价比,无问芯穹这个模式的壁垒在哪里?
夏立雪:表层的壁垒是我们在软硬协同领域有充足的积累和成熟成果。我们是基于系统算法做硬件适配优化,不针对单一硬件厂商或单一模型,能力可以覆盖产业全生态,是中立的第三方,技术适配性强,在各类场景下都可以使用。
其次,我们的视野是面向整个供不应求的产业做布局,把市场上所有芯片产能都作为优化的输入变量,最终实现让整个生态中所有现有主体都发挥最大价值。这不是单点的一对一优化,当产业生态复杂度提升——比如出现多种模型、多种芯片并存的情况,我们这种大体系资源优化能力就会形成生态层面的壁垒。
我们团队内在的核心壁垒是始终跟进业界最新的发展变化。此前做稠密模型和MoE优化,之后又针对万亿参数模型难以在单一硬件上规模化扩展的问题,很早就开始深度研究P/D分离和半分离相关技术,目前也在研发可以差异化体现国产芯片能力的相关技术。
我们的壁垒不是单点的技术领先,而是系统化的、滚动式的持续创新。
虎嗅:从芯片到模型之间存在中间优化的空间,针对Token经济学,不同厂商也提出了不同的解决方案,例如华为和一些芯片厂商提出的“超节点”的方法,以集群能力应对单卡算力不足,从无问芯穹的立场,如何建立中间的优化层?
夏立雪:现在是算法牵引系统、硬件和集群建设的时代,我们和芯片厂商有共同的目标,就是要实现真实的产业落地,只要各方能对接上、跑通业务,就是好的生态。芯片厂商最核心的是要做好自己的“产品说明书”,而怎么把芯片这个复杂精密的硬件用好,是我们作为行业专家要做的事。现在国内各种各样的芯片都有类似CUDA的层,有CAN、SUCA、MARCA等不同的架构,我们的生态就是把这些架构统一接入、调度、精细化管理和资源分配,保证服务稳定,最终实现商业化闭环。
虎嗅:有没有具体的数字说明客户选择你们的方案,在同等推理任务和同等效果下,Token成本下降了多少?稳定性达到了什么程度?
夏立雪:比如在万亿参数规模的大模型场景下,我们实现的token每秒产能对应的性价比和一两年前相比已经做到了五到十倍的下降,这是软硬协同优化带来的运行成本下降。
Token产能有两个核心维度,一个是微观运行层面的生产效率,也就是单位时间内的Token产出量;另一个是宏观层面的稳定性,避免频繁停机维护导致实际产能下降。我们在这两个指标上都取得了很好的成果,最直接的证明就是客户都在持续使用我们的服务。
虎嗅:内部最看重的核心指标是什么?
夏立雪:本质上最终都会归拢到单位时间内的Token产出量,这是检验优化效果的唯一指标。我们核心关注的是无问芯穹每月能够产生多少有价值的万亿参数大模型的Token。
这个指标下涵盖两个部分:一个是Token每秒的生产效率,另一个是可参与生产的资源规模。软硬协同优化中也包含大规模系统稳定性的优化,这点常常被忽略,但非常重要。
因为当我们从小而美的技术团队转向系统服务商时,需要为客户交付大规模持续稳定的业务,规模的扩张必须以稳定性作为支撑。
虎嗅:2026年被认为是推理大年,你们哪条业务线有明显增速?
夏立雪:以公司 Agentic MaaS 平台为例,从2025年年底到今年5月,Token调用量增速在20倍以上。而且这种增长是健康的结构化增长,是多种需求同时存在、有分层结构的增长,并非难以持续的单点增长。
现在整个模型产业的发展类似金字塔从底部向上突破,尖端应用在不断拓展新的需求领域,AI已经可以实现写代码、做设计、做营销,未来还可能覆盖法律等场景。推理需求的快速增长带动了全产业链的健康发展,覆盖模型公司、应用公司、基础设施服务商甚至芯片公司。
从这一年的经验来看,全链路都完成数字化、所有信号都可以在数字世界闭环的任务和组织,会更快进入自我闭环的迭代,也会最优先吃到 AI 进化带来的红利乃至利润增长。人工智能本身擅长自我迭代,类似AlphaGo可以通过自我对弈实现快速进化。
虎嗅:这些场景具体都是哪些?能举几个例子吗?
夏立雪:比如代码生成场景最早爆发,一方面是研发人工智能的程序员本身最熟悉代码场景,另一方面是代码的提交、评审全流程都有数字化记录,类似的还有线上营销场景,相关流程都有数字世界的记录。整体来看,上一波数字化转型做得好的、或者互联网时代原生的场景,需求增长都非常快。
如果按需求复杂度划分,我们公司95%的需求都来自智能体场景,也就是由AI完成完整可交付的任务,而非简单的聊天需求,用户更愿意为生产力和最终结果付费,这是产业落地的良性趋势。现在在代码生成这类赛道,已经可以实现AI团队协作,不同的AI分别承担代码编写、质量保障的工作,形成最简单的协作模式,这类场景已经跑通,后续也会在其他行业逐步落地,当前人工智能落地的节奏非常好,我们作为产业中资源打通的主体也会获得对应的价值。
虎嗅:这是年初OpenClaw出现之后带来的拐点?
夏立雪:在OpenClaw推出之前相关需求就已经出现了,OpenClaw是产业发展到一定阶段孕育出的产品之一。核心原因是人工智能的智能性突破了临界点——当AI的智能性达到可以完成子任务、具备长上下文记忆能力的临界点之后,才具备作为“大脑”指挥子任务完成管理工作的基础。后续还会有更多针对不同场景的同类产品出现。
一个token工厂的生意飞轮
虎嗅:无问芯穹有一个公式:AI生产力=智能规模×Token生产效率×Token价值转化,从无问芯穹的角度,这几个变量里可以怎么赚到钱?无问在这个公式里,飞轮怎么转起来?
夏立雪:Token业务在商业化能闭环的产业里,是非常好的模式。当自身优化能力足够强的时候,就能为市场提供更充沛、更稳定、更高性价比的优质Token,进而在产业内获得口碑,吸引更多用户使用。
拿到更多需求之后,也能提炼出更好的优化空间,一方面是接触到更多真实场景,可以明确不同优化技术在场景中的价值;另一方面是需求足够多的情况下,资源分配的调整空间更大,需求种类越丰富,和非同质化资源的适配可能性就越多,M种模型乘N种芯片的优化空间也会越来越大。
这两点会使得接到的需求越多、可使用的资源能支撑的需求越多,优化能力就越强,优化能力越强又能反过来提供更稳定、更便宜、更充沛的服务,吸引更多需求,飞轮就此转动。
虎嗅:这种算力精细化需求下催生的模式,无问芯穹的商业模式是按结果收费还是case by case?
夏立雪:目前Token工厂的模式已经比此前成熟很多,有更偏向结果的定价方式,就是按照Token计费,Token本身也有差异化,类似广告行业的CPM计费。现在Token已经是非常贴近业务的定价指标,用户可以直观感知到token对应的价值,不用关心底层用了什么芯片。
以Token作为结算维度有很多好处:一方面能让整个赛道更关注AI产生的价值,而不是单纯的资源,我们所有技术优化节省的成本,都会提升公司的毛利率水平,可以再投入到新的技术研发里,形成正向的循环;另一方面Token作为结算指标也能很好地兼容跨行业的差异化,不用每个行业都做一套独立的计价方式,更利于产业结构的扩展。
虎嗅:推理大年里,国产芯片的机会大吗?
夏立雪:2026年行业内大家都很看好,国产芯片的机会非常大。市场是健康的,各类需求都有缺口。现在的任务就是先把能填上的缺口填上。
虎嗅:推理需求进一步分化,分为Prefill(预填充)和Decode(解码),国产芯片的优势在这个细分需求里有差异吗?
夏立雪:国产芯片已经越过了“能不能用”的非黑即白,进入了“好不好用”的性能较量阶段。
其实现在的算力需求非常多样化。比如,应用端有对延时极度敏感的,也有相对包容的;模型端有万亿参数级别的极限挑战,也有千亿参数就能高效解决的场景。
回到 Prefill 和 Decode 的细分。相对来说,Prefill 更契合当下国产芯片的能力状态。因为它是计算密集型任务;而 Decode阶段不仅是访存密集型,还对卡间通信带宽、以及芯片底层的整体软硬件生态提出了苛刻得多的要求。
虎嗅:如果抛开国产化叙事,无问芯穹的业务依然能增长这么好吗?
夏立雪:到了2026年这个时间点,中国市场和海外市场没有根本的区别,整体都是健康的产业分配状态,也同时面临着资源不够用的现状,并且在未来相当长的时间,仍会供不应求。我们公司所处的赛道核心,恰好是如何解决供不应求的问题。
Token进入5G阶段,可能出现真正的AI型组织
虎嗅:你之前把Token的增长比成手机流量从3G到4G的阶段。移动互联网时代的流量爆发带来了微信或电商这样的模式,进入Token 4G甚至5G阶段,最有可能爆发的AI应用会是什么?
夏立雪:我觉得对应的不是单一的业务,而是AI型的组织。OPC是最近比较火的极致概念,一人公司大规模出现难度比较大,但十人、二十人或者几个人的小公司,这类充分使用AI、人和AI充分合作的组织会大量爆发,这才是Token流量进入4G阶段真正产生的核心“应用”。
4G、5G时代的移动应用特点是大量使用流量,是基于流量充足的前提诞生的和以往不同的产品。对应到AI领域,不是某类应用会大量使用AI,而是某类组织会大量使用AI并创造出好的新作品。已经完成数字化的赛道,会更早诞生这类原生 AI化的机构和组织。
虎嗅:这类AI智能组织现在已经出现了吗?
夏立雪:已经有很多了,有很多很有趣的组织产生,大家会把AI用在工作的方方面面,而且这些组织里使用的不同AI之间还会交互,形成人与AI共生的组织形态,这些组织创造的产品就是AI 4G时代最有趣的新兴产品。
虎嗅:随着AI快速发展,对无问芯穹来说最大的挑战是什么?如果未来出现竞争对手,有可能是哪一类公司?
夏立雪:从人工智能整体发展来看,核心问题还是资源限制。表面看有两个限制,一个是模型能不能突破到下一个范式,目前距离真正的AGI还有大概一到两个范式的差距,而范式突破需要大量的训练资源和人员投入,最终还是回到资源问题。
我们认为短期内AI范式不会有根本性的突破,但目前AI已经突破了可用的临界点,正在不断拓展新的应用场景,核心问题变成我们能不能接得住这么多需求。这取决于资源是否够用、资源效率是否足够高。
关于竞争对手,我认为现在是需求大于供给的市场,远远没到零和博弈阶段。产业链有上下游分配,不同主体有不同的资源禀赋,横向纵向都可以找到自己的市场空间,只要创造价值就能获得收益,核心产业层面的竞争其实很稀薄,企业自身的发展才是最重要的。
虎嗅:如果AI进入了下一个范式,当前的商业模式依然成立吗?
夏立雪:AI范式不会出现跳变,就像5G出来之后4G技术依然有应用场景,会有一个过渡的节奏。如果范式突破带来新的基础设施变化,反而会产生新的机会和发展空间,我们不怕事情难——无问芯穹的技术团队从一开始就是奔着解决最难的技术问题去的,并且找到了很好的 TMF(技术-市场适配)。
虎嗅:Token相关产业什么时候能迎来类似通信领域5G的拐点?
夏立雪:用通信领域4G、5G的划分来类比AI产业不是特别合适,下一个时代的跳变有两种可能性。一种是模型真的发生范式变化,但这种变化是什么目前没有人能够预测。第二种是模型的成本降到足够低,现在计费方式已经从千Token多少钱降到百万Token多少钱,如果成本再下降一到两个数量级,就会出现类似流量包、包月的概念,届时整个产业的付费模式会发生质变。
成本下降1-2个数量级是有可行路径的,核心是更深层次的软硬件结合,对模型结构、模型组合和硬件结构都进行调整,提升两者的匹配度,还有1-2个量级的优化空间。我们一方面会在成本下降1-2个数量级的过程中创造价值,另一方面也在提前做布局,推出匹配未来新的生产关系和商业模式的新产品和新能力。