（来源：科技行者）
先问你一个问题：如果让你复述一段冗长的会议记录，你会怎么做？
大概率你不会一字不落地背下来,也不会粗暴地把某些段落整段删掉。你会做的是,把关键决策原样保留,把那些"我们讨论了一下""后来又绕回来确认了一遍"的部分,压缩成一句"经过讨论确认"。
这正是一群研究者在教AI做的事情。他们给这个方法起名叫A*-Thought-V2,今天我们就来聊聊,AI是怎么学会"该说的说,该省的省"的。
**思考越长,代价越大**
先说说这件事到底难在哪。
现在的大语言模型,遇到复杂数学题时喜欢"多想一会儿"。这种让AI一步步写出推理过程的方式叫做思维链*。
思维链:Chain-of-Thought,简称CoT,指让AI在给出最终答案前,先生成一系列中间推理步骤,类似人做题时的演算过程。
思维链确实让AI变聪明了,但代价也肉眼可见:一道AIME难题,模型能写出三四万个token的推理过程,相当于一篇万字论文。这不仅拖慢了响应速度,还占用大量计算资源和上下文空间。
于是有人想出了"删减"的办法。之前的方法A*-Thought就是这么做的:先给每一步推理打分,判断哪些步骤重要,哪些是废话,然后把废话步骤直接删掉,只保留精华。
问题来了:AI的推理过程里,那些"等一下,我再检查一下""不对,好像哪里错了"的步骤,看起来啰嗦,但真的完全没用吗?
研究者们发现,答案是否定的。这些检查、纠错、换个思路重新想的片段,恰恰是AI"没走偏"的证据。直接删掉它们,相当于把一个人纠结、反思、最后想通的心理活动全部抹去,只留下最终的正确答案。听起来很干净,但AI下次遇到类似问题,可能就学不会"怎么纠结"这件事了。
实验数据也印证了这种担心:在Qwen3.6-27B模型上,A*-Thought硬删减方法在AIME2024上的准确率只有76.7%,比不删减的基线掉了将近20个百分点。删得狠,但删错了地方。
这就好比整理一屋子的旧物,你可以直接把不常用的东西全扔掉,腾出最大空间;但更聪明的做法,是把不常用但可能有用的东西压缩打包,存进储物箱,占地方小了,东西却还在,需要时能翻出来。A*-Thought-V2选的正是后一条路。
**把推理过程画成一张地图**
那么问题变成了:AI怎么知道哪些步骤该保留,哪些该压缩?
研究者的思路挺巧妙。他们把AI每一步生成的"内心状态"提取出来,这个状态在专业上叫隐藏状态*。
隐藏状态:Hidden State,神经网络内部某一层在处理输入时产生的数值向量,可以理解为模型对当前信息的一种内部编码或"理解快照"。
把问题、每一步推理、最终答案的隐藏状态全部提取出来后,研究者用一种叫PCA的技术,把这些高维向量压缩投影到一个三维空间里。
PCA:Principal Component Analysis,主成分分析,一种把高维数据降维到低维空间的统计方法,目的是在尽量保留数据差异的前提下,让数据变得容易观察和分析。
于是,整个推理过程就变成了三维空间里的一条轨迹,从"问题"这个起点,弯弯曲曲地走到"答案"这个终点。图3(a)里画的就是这样一条轨迹,像是一条在空间中扭动前进的曲线。
有了这条轨迹,研究者做了一件很直观的事:计算每一步移动的方向,和整体"从问题到答案"的大方向之间夹了多少度角。
这个角度叫方向角。角度小,说明这一步是朝着答案直奔而去的,是在"正经做题"。角度大,说明这一步偏离了主线,可能是在检查、纠错,或者换个思路重新琢磨。
这就像开车导航。如果你时刻都朝着目的地方向走,那每一步的转向角都很小,说明你走的是直路。但如果你走错了路口,发现不对赶紧倒车调头,再重新找路,这一步的转向角就会很大,甚至接近180度。别人看你的行车记录仪回放,一眼就能看出"这一段是绕路了"。如果不记录这些绕路的片段,只留下最终抵达终点的那几步直线,你确实能看到"最优路径",但你永远学不会遇到死胡同该怎么调头。
研究者把这些角度按30度一档,分成了六个区间,并统计了每个区间里AI爱用的词。小角度区间(0到30度)常出现"因此""化简""代入"这类直奔结论的词;大角度区间(150到180度)则常出现"等等""或者""再考虑一下"这类带有犹豫和重新出发意味的词。图3(b)把这种对应关系画成了一个圆盘图,六个扇区分别对应六种"推理性格"。
更有意思的是,研究者还发现,如果把这个角度随推理步数画成一条曲线,能看出三个明显的阶段:一开始角度剧烈波动,这是探索期;中间角度波动逐渐变小,进入收敛期;快结束时角度又小幅回升,是最后的检查和润色阶段,叫精炼期。图3(c)里这条波浪线,起伏的节奏几乎就是AI"想问题的心跳图"。
**该留的留下文字,该压的压成一个点**
有了这套判断标准,接下来就是怎么把"该压缩的步骤"变成AI能理解和生成的东西。
这里研究者设计了两个关键机制,一个叫嵌入强制,一个叫标签强制。
先说嵌入强制。
正常情况下,AI处理文字时,每个词都会被转换成一个数值向量,这个转换过程用到的是嵌入层*。
嵌入层:Embedding Layer,神经网络中把离散的词或token映射成连续数值向量的一层,是模型理解文字的第一道关口。
嵌入强制做的事情是:把一段被判定为"该压缩"的推理步骤,里面所有词的向量,取个平均值,压成一个单独的向量,称为潜在token*。
潜在token:Latent Token,不对应任何具体文字,而是用一个连续的数值向量代表一整段被压缩推理内容的特殊标记,可以理解为AI用一个"浓缩胶囊"代替了一整段话。
这一步的关键是取平均而不是随便挑一个词代表。这就像开会记录,如果一段冗长的讨论最后达成了共识,你不会只记下发言最积极的那个人说的话,而是提炼出大家共同的意思,写成一句概括。取平均正是数学上最简单粗暴但有效的"提炼共识"方式。
如果不这样压缩会怎样?那就退回到A*-Thought的老路,直接把这段话删掉,连"曾经讨论过什么"这件事本身都不留痕迹。而嵌入强制至少保住了"这里发生过一次讨论"的整体印象,只是不再逐字复述。
再说标签强制。
这是训练时用来教AI"这个压缩点应该学到什么"的机制。正常训练时,AI预测下一个词,用的是标准答案是唯一确定词的one-hot标签*。
one-hot标签:一种只有一个位置是1,其余位置全是0的标签表示方式,代表"答案就是这一个词,别的都不对"。
但对于潜在token,它代表的是一整段话的浓缩,不可能只对应一个词。于是研究者把这段话里所有词的one-hot标签也取平均,做成一个软标签*,让潜在token去学习预测这种"模糊而多元"的目标。
软标签:Soft Label,不是非黑即白的单一答案,而是一种概率分布式的目标,允许模型同时朝多个可能方向靠近。
这就好比考试,如果一道题的标准答案本来就有好几种合理表述,老师却硬要求学生只能写某一个字,那学生就很难真正学会这道题的精髓。软标签相当于告诉AI:"这个位置,你不用死记硬背哪个词,但你要理解这一片区域大概讲的是什么。"
这两个机制配合起来,构成了一个文字和潜在token交替出现的混合序列,论文管这个结构叫显隐交织架构。整体损失函数把普通文字部分的标准交叉熵损失和潜在token部分的软标签损失加权合并,一起训练。
值得一提的是,消融实验显示这两个机制都不能少。去掉标签强制,准确率从94.5%骤降到72.5%,足足掉了22个百分点;去掉嵌入强制,准确率降到92.8%,掉了不到2个百分点。这说明标签强制才是真正教会AI"潜在token该表达什么"的核心,嵌入强制则是提供了更合适的压缩载体。
**推理时,AI怎么用潜在token说话**
训练好之后,推理阶段还有一个细节需要处理:AI在生成潜在token时,输入的是什么?
训练时,潜在位置的输入是提前算好的压缩向量。但推理时AI并不知道未来要生成的内容,自然算不出这个压缩向量。研究者的解决方案是,用潜在token开始标记前一个位置的隐藏状态,作为第一个潜在位置的输入,后续潜在位置则依次用前一个潜在位置产生的隐藏状态接着推。整个过程仍然通过标准的注意力机制访问之前所有的上下文。
这就像同声传译。译员不可能提前知道说话人接下来会说什么,但他会根据刚听到的内容,连贯地推测和组织下一句的表达,而不是每次都从零开始猜。潜在token的生成也是这样一环套一环地往前推进。
**数据说话:准确率涨了,长度却砍半了**
说了这么多设计思路,最终效果到底怎样?
研究者在两个不同规模的模型上做了测试,分别是90亿参数的Qwen3.5-9B和270亿参数的Qwen3.6-27B,覆盖了数学竞赛题Math500、AIME2024、AIME2025、AIME2026,还有跨领域的常识推理ARC-Challenge和研究生水平问答GPQA-Diamond。
在Qwen3.6-27B上,采用90度阈值的A*-Thought-V2版本,平均准确率达到93.9%,比同样用OpenR1-Math-3k数据做普通监督微调的版本高出1个百分点,而生成的回答长度从14023个token降到11785个token,缩短了16%。
如果换算成一个叫做ACU的效率指标:
ACU:Accuracy per Computation Unit,每单位计算量对应的准确率,计算方式是准确率乘以100再除以生成长度,数值越大说明模型又准又省。
原始Qwen3.6-27B模型的ACU只有0.35,而A*-Thought-V2把这个数字拉到0.80,相当于效率提升了2.29倍。这意味着同样的计算资源,现在能多解决超过两倍的问题。
对比其他同类方法,表现也很扎实。同样走"训练时不改架构,推理时切换文字和潜在思考模式"路线的SwiReasoning,以及靠"连续空间验证器做反思纠错"的CopT,在整体平均表现上都不及A*-Thought-V2。而硬删减派的A*-Thought,前面提过,准确率损失明显,ACU也只有0.67,不及A*-Thought-V2的0.80。
预处理效率的提升也很惊人。A*-Thought-V2把压缩预处理时间从A*-Thought需要的5小时16分钟,压缩到了16分57秒,足足减少了94.6%。60度阈值版本的训练时间,在Qwen3.5-9B上相比普通监督微调减少了80.3%。这背后的原因不难理解:A*-Thought需要在两维树结构里搜索最优的删减方案,搜索本身就是耗时大户;而A*-Thought-V2直接靠几何角度判断,不需要搜索,一步到位。
**潜在token到底学到了什么**
光看准确率数字有点抽象,研究者还做了一件挺有意思的事:把AI生成过程中文字token和潜在token的隐藏状态,同样用PCA降到二维和三维空间里画出来看。
结果发现,潜在token聚成了一小团,和范围更广的文字token分布明显区分开来,在三维图里,这些潜在token占据了推理轨迹中一段连贯的中间区域。这说明潜在token不是随便糊弄出来的噪声,而是确实学到了某种结构化的、压缩后的推理信息。
研究者还测了模型在潜在token位置和文字token位置的预测熵*。
预测熵:衡量模型对下一个输出的不确定程度的指标,熵越高说明模型认为有更多种可能性,熵越低说明模型很确定该输出什么。
结果是,文字token平均熵只有0.26到0.37,而潜在token的平均熵高达5.09到5.69,差了十几倍。这个数字本身不难解释:文字token用的是one-hot硬标签,答案唯一确定;潜在token用的是软标签,目标本身就是模糊而多元的分布,模型自然会表现出更高的不确定性。这恰好印证了标签强制机制设计的初衷,即让潜在token学会捕捉更丰富的语义,而不是硬记住某个具体词。
**角度阈值怎么选**
论文里还测试了不同阈值下的表现差异。90度阈值意味着只压缩那些方向偏离超过90度的步骤,保留了更多正向推进的内容;60度阈值压缩得更狠,连一部分"混合执行和过渡"类型的步骤也压进去了。
两种阈值在各个测试集上都比普通监督微调表现更好,其中90度整体权衡最佳。这跟前面的语义分区分析吻合:90度刚好是检查、纠错、探索这几类步骤开始大量出现的分界线,压缩这部分内容风险最小,收益最大。
研究者还试过用随机角度分配和反向选择做对比,也就是故意压缩小角度步骤、保留大角度步骤。结果无论哪种,平均准确率都不如几何引导的方法,反向选择的版本准确率只有91.4%,比正常方法低了3.1个百分点,生成长度反而更长。这说明角度判断标准不是拍脑袋定的,而是真的抓住了推理过程里"哪里该省"的规律。
最后再补一个细节:研究者测试了不同大小的模型来提取隐藏状态做PCA分析,从0.8B到9B参数都试了一遍,发现角度分布虽然略有差异,但下游任务表现没有明显区别。这意味着这套方法对提取模型的规模不算敏感,用小模型来做几何分析就够了,不需要动用大模型,这也是节省预处理时间的重要原因之一。
写在后面
读完这篇论文,最让我意外的一点是那张词频统计表。研究者没有满足于"角度大小对应重要性"这种粗略结论,而是真的去统计了每个角度区间里高频出现的词汇,发现"等等""或者""考虑一下"这些带犹豫色彩的词,几乎精确地聚集在150到180度这个区间。这说明AI推理时的犹豫和纠结,在几何空间里是有实在的方向性特征的,不是随机噪声。
这让我想到一个问题:人类思考时是不是也存在类似的几何结构?我们卡壳、纠结、推翻重来的那些瞬间,如果也能用某种空间轨迹去描述,会不会同样呈现出这种"探索、收敛、精炼"的三段式节奏?这篇论文研究的是AI,但它提出的分析框架,某种程度上给了我们一个观察"思考"本身的新工具。
论文里还有个没细说但值得追问的地方:六个角度区间的语义划分,是研究者事后分析出来的规律,还是可以反过来指导训练,让AI主动学会用不同的"转向幅度"去表达不同类型的思考?如果后者可行,那AI或许能学会更精细地控制自己什么时候该直冲结论,什么时候该刹车检查。这条路还没走完。
Q&A
Q1：A*-Thought-V2是什么？
A：A*-Thought-V2是一种让大语言模型压缩推理过程的方法,它把AI推理时容易冗余的检查、纠错步骤压缩成连续的潜在token,而不是直接删掉,从而在减少计算量的同时保留更多推理信息。
Q2：A*-Thought-V2和之前的A*-Thought有什么区别？
A：A*-Thought采用硬删减,直接丢弃不重要的推理步骤,可能损失有效信息;A*-Thought-V2则把这些步骤压缩成潜在向量保留下来,实验显示准确率更高,预处理时间还减少了94.6%。
Q3：A*-Thought-V2的效果具体如何？
A：在Qwen3.6-27B模型上,A*-Thought-V2平均准确率提升最多2.6个百分点,响应长度最多减半,效率指标ACU提升了2.29倍,同时预处理时间大幅缩短。
