Atria Dawn:当AI开始参与训练下一个AI,人类还剩下什么活儿?
(来源:科技行者)
2026年9月的某一天,如果你走进Atria团队的办公室,可能会看到这样一幕:一个研究员盯着屏幕,屏幕上不是他自己在敲代码,而是一个AI智能体正在自动运行实验、调试报错、修改参数。他每隔几分钟才插一句话。
这不是科幻电影的场景,这是Atria Dawn Preview这个模型真实的研发日常。而更有意思的是,团队没有把这段经历当成花絮一带而过,而是把它变成了一份长达数千条记录的研究数据,试图回答一个问题:当AI越来越能自己搞科研,人类到底还在干什么?
这篇论文有两条主线。第一条是介绍Atria Dawn Preview这个模型本身,一个744亿参数的混合专家模型,在16个基准测试里拿了5个第一。第二条,也是更值得琢磨的一条,是团队把自己开发这个模型的过程当成了一个观察样本,记录了56名参与者、769条任务日志,试图搞清楚人类和AI在真实研发场景里到底是怎么分工的。
先说说这件事为什么突然变得紧迫。
**AI研究AI的时代已经不是假设,而是正在发生的现实**
过去几年,大家讨论AI能不能写代码、能不能通过考试、能不能画画。但现在的问题升级了:AI能不能设计实验、判断一个失败的结果该不该继续深挖、决定下一步该往哪个方向走。这些活儿以前被认为是"研究员的直觉",很难被自动化。
论文里提到AlphaEvolve和一些自动化科研的工作,说明AI提出候选方案、跑实验、根据反馈修改方案这件事,已经不是天方夜谭。这就带来一个新问题:如果AI越来越擅长干研究工作,那它会不会有一天开始训练比自己更强的AI,而那个更强的AI又能训练更更强的AI?这个自我加速的循环有个专业名字。
递归自我改进(RSI):指AI能力提升后可以更有效地参与AI的研发工作,从而训练出更强的下一代模型,如此循环往复,形成自我强化的能力增长。
这个概念听起来很吓人,但Atria团队想做的不是渲染恐慌,而是脚踏实地去看:在真实的研发场景里,这个循环到底转到哪一步了,人类还卡在哪个环节。
**Atria Dawn Preview:一个为科研和工程设计的智能体模型**
先聊聊这个模型本身。它建立在一个744亿参数的混合专家(MoE)基础模型上。
混合专家模型(MoE):一种神经网络架构,内部有多个"专家"子网络,每次处理输入时只激活其中一部分专家,而不是让整个网络都参与计算,这样能在保持模型能力的同时降低计算开销。
它的训练方式有一个核心设计,叫做"可验证经验管道"。
可验证经验管道(Verifiable Experience Pipeline):一套训练流程,把每一个训练任务都连接到真实的执行环境,模型的每一步操作都会得到外部信号的核验,比如代码测试是否通过、实验指标是否达标、文件状态是否正确,只有经过验证的经验才会被用来训练模型。
这个设计思路其实是在回应一个很朴素的问题:怎么才能让AI学会的东西是"真的有用",而不是"看起来像那么回事"?
打个比方,这就像教一个学徒修车。如果只让他看修车视频、背修车手册,他可能能说出一堆专业术语,但真给他一辆抛锚的车,他未必修得好。可验证经验管道的做法相当于让学徒每次动手修车,都有一个真实的车、真实的故障灯、真实的试车结果来检验他修得对不对。如果不这样做,而是让AI靠模仿海量文本来学习"怎么做研究",很可能学出来的是一套听起来很像研究报告的话术,而不是真正能推进实验的能力。这也是为什么团队反复强调"外部验证"这四个字,任何没有被验证机制盯住的经验,都不会进入模型的能力库。
训练过程中还有个细节挺有意思:失败的运行也会被留下来当作诊断案例,前提是这些失败的原因能被独立确认。这意味着团队不是简单地把出错的数据扔掉,而是把"哪里错了、为什么错"也变成了一种可学习的信号。
**16个基准测试,拿了5个第一,但这不是重点**
评测部分,Atria Dawn Preview在AutomationBench、BFCL v4、DeepSearchQA、BrowseComp和CyberGym这五个基准上拿到了最高分,在另外三个基准上排名第二且差距在两个百分点以内。
比如在CyberGym(一个评估AI处理真实网络安全漏洞能力的基准)上,它拿到86.5分,比第二名GLM 5.3高出2分。在AutomationBench上领先第二名4.1分,优势比较明显。
但论文里花了更大篇幅去讲的,其实是几个具体的案例演示,而不是榜单分数。比如有一个案例,团队关掉了网络搜索功能,让模型处理超过100GB的气象数据,搭建一个基于视觉Transformer的预测网络,训练4.5万步,预测69个气象变量。还有一个案例是让它从零开始搭建一个叫MiniOS的迷你操作系统,大概20分钟内完成了串口终端、磁盘访问、持久化文件系统这些功能,并且能在重启后依然保留写入的数据。
这些案例的意义不在于证明模型"很强",而在于展示它能不能把工具使用、反馈响应、结果产出这三件事串成一条完整的链路。这才是"智能体"和"聊天机器人"的本质区别。
**人类和AI的角色演变:从对象到搭档**
论文里画了一张图,把人类和AI的关系分成三个阶段,我觉得这是全文最值得细品的部分。
第一阶段,AI只是研究对象。人类设计实验、运行代码、分析结果,AI就是被研究、被训练的那个东西,没有主动权。
第二阶段,AI变成任务执行者。它能写具体的代码模块、跑实验、分析日志,但整个研究的骨架,比如先做什么后做什么、评价标准是什么,还是人类来搭。
第三阶段,也就是现在,AI变成了项目级的合作者。在人类设定的目标范围内,它能自己规划方案,并根据实验结果不断调整。
这个演变过程让我想起带团队的经历。刚入职的实习生,你得手把手教他每一步该怎么做,这是阶段一。做了一段时间,你可以直接给他一个具体任务,让他自己去实现,这是阶段二。等他足够资深,你只需要告诉他"我们要提升模型的泛化能力",他自己就能拆解出实验方案,遇到问题自己调整,这是阶段三。如果一直停留在阶段一不肯放手,团队的产出效率永远上不去。但如果盲目跳到阶段三,却没有对应的监督机制,那出了问题可能很久都发现不了。
Atria团队现在就处在阶段三,而这也正是这篇论文最想剖析的地方。
**769条任务记录里的真实分工**
团队分析了56名参与者留下的769条任务记录,外加对应的智能体操作日志,得到了几组很扎实的数字。
首先是AI的渗透率有多高。在739条对"是否用了AI"给出明确回答的任务里,713条用了AI,占比96.5%。这已经不是"要不要用AI辅助"的问题了,而是AI已经默认嵌入到日常工作流里。
第二组数据更有意思,是关于"没有AI能不能做成"的追问。团队专门让参与者回忆,如果没有AI,完成自己负责的那部分工作需要多久,前提是任务范围、质量要求、其他资源都保持不变。结果在455个已完成的AI辅助任务里,有151个被参与者标记为"没有AI根本做不成",占比33.2%。而且这151个任务来自56人里的27人,不是少数几个重度用户堆出来的数字。
这组数据揭示了一个容易被忽略的区别:省时间和让不可能变可能,是两回事。如果只统计AI帮大家省了多少小时,会低估AI真正带来的变化,因为有三分之一的工作原本压根不会被启动,更别说完成。
第三组数据是关于"谁提方案、谁拍板"的角色拆分。在方法和参数这类决策上,"AI提方案,人类做选择"是最常见的模式,占55.4%。综合来看,人类在方法和参数决策里做最终选择的比例达到85.5%,AI自己拍板的只占9.2%。而在目标和范围这类更宏观的决策上,人类做最终选择的比例更是高达93.4%。
有意思的是,AI提出方案的比例在不同决策类型上差异极大:在目标范围上只占16.9%,但在方法参数上飙升到55.4%,足足差了三倍多。这说明什么?说明AI已经很擅长"生成选项",但"决定往哪个方向走"这件事,依然牢牢攥在人类手里。
即使是在那151个"没有AI做不成"的任务里,人类依然在95.4%的情况下敲定了最终目标,比例甚至比一般任务还要高。这打破了一个我原本的预设:我以为越依赖AI的任务,人类的决策权会相应缩小,但数据显示恰恰相反,依赖程度和自主权让渡程度并不是同步变化的两条线。
第四组数据是关于"出问题了怎么办"。当研究团队询问每个任务里最棘手的困难时,588条有记录的任务中,76%是靠人类介入才推进下去的,23%是AI自己搞定的,只有1%完全卡住没解决。
但这里有个关键的细节区分:人类介入的方式里,补充背景信息或者澄清需求占35.2%,诊断问题或调整方法占34.7%,这两项加起来占了七成。而真正动手改代码、接管工作的,分别只占3.2%和0.7%。换句话说,人类帮忙的方式,十八倍地倾向于"告诉AI它不知道的东西",而不是"自己上手把活干了"。
这就好比一个老师傅带徒弟,徒弟修车修到一半卡住了,师傅过去看了一眼,说"你这个螺丝没拧对方向",然后就走开让徒弟自己重来,而不是一把抢过扳手自己修完。如果每次都是师傅抢过扳手,徒弟永远学不会,活也永远只能靠师傅一个人的产能来完成。但如果师傅完全不搭理,徒弟卡在那里可能一整天都过不去。这个"点拨式介入"恰好卡在效率和成长的中间地带。
最后一组数据是关于产出内容的修改。在627个有明确处理方式的AI产出任务里,56.5%经历了实质性修改,只有1%被完全弃用,3.2%仅仅作为灵感参考。也就是说,95.9%的AI产出以某种形式进入了最终交付物。而在这354个被实质性修改的任务里,75.4%是AI根据人类反馈自己改的,只有19.2%是人类直接动手改的。
这组数据合在一起讲的是同一件事:人类越来越少地亲自动手做具体的活儿,但依然牢牢把控着"这活儿做得对不对、方向该不该调"这个判断权。论文里有一张图专门画了每天"AI操作次数除以人类提示次数"这个比值的变化,从8月7日的11.0一路涨到9月4日的28.5,几乎翻了两倍半。这个数字本身容易让人误读成"AI越来越自主了",但作者特意提醒,这其实是"每一次人类判断,通过更多的AI操作被放大执行",而不是判断权本身在减少。
**两个绕不开的技术难题**
论文接下来提出了几个开放性问题,我觉得其中两个技术层面的问题特别扎心。
第一个问题是:AI怎么才能持续提出多样化的研究方向,并且在结果出来之前就判断出哪个方向更有价值?
团队观察到,在方法和参数这类具体决策上,AI提方案的比例高达55.4%,但在目标和范围这种更宏观的决策上,比例骤降到16.9%。这说明AI目前更擅长在一个已经被人划定好的框架里做变体,而不是提出全新的框架。团队把这归因于单个智能体的探索范围有限,新的研究管线和工作流依然要靠研究员主动去引导AI才能出现。
这让我想到一个现象:如果你问一群没有任何背景约束的AI"你觉得我们该研究什么方向",它们给出的答案往往高度相似,因为它们的训练数据和推理方式本质上是共享的。团队提到了一个叫"人工蜂群效应"的现象。
人工蜂群效应(Artificial Hivemind):指多个语言模型由于共享相似的训练数据和先验知识,即便独立运行,也容易产生高度雷同的判断和盲点,导致部署更多AI智能体并不能真正扩大探索的广度。
如果不解决这个问题,会发生什么?一个团队可能会误以为自己在"用十个AI并行探索十个方向",但实际上这十个AI给出的方案高度相似,探索的深度和广度都远远不如表面数字显示的那么可观。这就像找了十个背景经历几乎一样的人来头脑风暴,看起来人多力量大,实际上大家想到的点子高度重叠。真正打破这种局面的,反而是人类研究员带着自己独特的偏好和经验去追问,逼着同一个AI给出更多样的答案。
第二个问题是:AI怎么才能把一次一次探索中积累的经验,真正内化成自己的研究能力,而不是每次都从零开始?
论文里有个细节让我印象很深:团队发现,AI遇到困难时,大多数情况需要人类补充背景信息或者重新诊断问题,而且这种诊断在后续类似的任务里还得重来一遍。也就是说,AI从一次失败里学到的东西,停留在那一次对话或者那一条记录里,而真正把这个教训带到下一个任务里的,是人类研究员。
这个现象背后藏着一个更深的架构问题:现在的AI系统普遍是"记忆"和"能力"分离的,你可以往它的上下文窗口里塞更多历史记录,但这不等于它的底层推理能力真的因此变强了。论文提到测试时训练可能是一个突破口。
测试时训练(Test-Time Training):一种让模型在推理阶段根据当前遇到的新数据动态调整自身参数的技术思路,试图让模型具备边用边学的能力,而不是训练完就固定不变。
这个方向如果走通,可能意味着AI系统的架构需要一次比较根本的重新设计,而不只是往现有系统里加个更大的记忆库。
**人类的角色:从执行者变成裁判和方向盘**
读到这里,你可能会问:既然AI已经能提方案、能执行、能自己修正错误,人类到底还剩下什么不可替代的东西?
论文给出的答案是判断力,具体来说是三种判断力。
第一种是"低成本试错前的预判"。有经验的研究员往往能在花大代价之前,凭直觉排除掉那些注定走不通的方向。这种能力不是简单地记住过去发生过什么,而是能判断"这次的情况和过去哪次相似,哪里不一样"。这恰恰是AI目前比较薄弱的地方,因为它更擅长基于已有数据做插值,而不擅长在信息不充分的情况下做跳跃式的直觉判断。
第二种是打破"人工蜂群效应"带来的思维同质化。人类研究员因为背景经历各不相同,天然地能提出AI集体想不到的角度。
第三种,也是论文反复强调的一点,是"经验的跨项目积累"。一次失败的教训,是留在这一次对话里就烟消云散,还是被一个人带着走进下一个完全不同的项目里,产生新的启发,这中间的差别巨大。目前看来,这种跨项目、跨领域的经验迁移,依然主要发生在人类研究员的脑子里。
**关于权限和风险的两个警钟**
论文的后半段转向了更现实也更让人有点不安的问题。
团队坦承,在开发过程中,很多研究员为了让长时间运行的任务不被频繁的权限确认打断,直接给AI开启了自主运行模式,比如某些编程工具里的"跳过权限确认"模式。这个边界不是经过深思熟虑设定的,纯粹是图省事的结果。
论文对此的态度非常明确:不应该让AI系统像获得其他普通权限一样,自动获得涉及人类安全的决策权。团队用了"失控的超级智能"这样的表述来强调风险等级,并且提出,每一次AI能力的提升,都应该匹配相应比例的对齐和监督投入,而不是任由自主性跑在管理能力前面。
这里还有一个值得琢磨的观察:当研究员连AI工作的最终结果都难以完整评估时,监督就已经名存实亡了。更麻烦的是,因为人类提出的需求本身受限于人类自己的认知边界,人类可能最终会退化成一个只能对AI提案说"好"的审阅者。这个警告挺重的,因为它指出的不是AI会不会作恶,而是人类的监督权会不会在自己都没意识到的情况下悄悄流失。
**写在后面**
读完这篇论文,最让我意外的不是模型跑分有多高,而是那个"AI操作次数与人类提示次数之比从11涨到28.5"的曲线。这条曲线本身没什么了不起,但作者特意提醒你不要把它读成"AI越来越自主",这个提醒背后藏着一种少见的克制。很多机构在展示这类数据时,会顺理成章地讲一个"AI正在接管一切"的故事,但这篇论文反而花了大量篇幅去论证,判断权其实牢牢地留在人类手里,只是这个判断被放大执行到了更多的AI操作里。这种不夸大、不煽情的写法,在这个领域里其实挺少见的。
另一个让我反复想的细节是那个95.4%的数字:即便是那些"没有AI根本做不成"的任务里,人类依然敲定了绝大多数最终目标。这多少纠正了我原本的一个直觉误判,我以为越依赖AI,人类的自主权会相应萎缩,但这篇论文提供的证据显示,依赖程度和让渡的决策权并不是同一条曲线上的两个点。这提醒我,讨论AI自主性的时候,光问"用了多少AI"是不够的,还得问清楚"AI具体替代了工作流程里的哪一环"。
论文里那个"人工蜂群效应"的提法也值得单独拎出来说一说,多个AI智能体因为共享相似的训练数据,即使各自独立运行,探索的方向也高度重叠。这意味着简单粗暴地堆更多AI算力,未必能带来更广阔的探索空间,这个反直觉的结论,恰恰是团队在真实研发中撞出来的经验,而不是纸面推演。
这篇论文没有给出一个乐观或悲观的终极判断,它只是老老实实记录了一个正在发生的过渡阶段:AI已经能干很多事,但那个能让AI自己判断"这件事值不值得干"的能力,还没有真正出现。这个空白由谁来填,用什么方式填,可能才是接下来几年真正值得盯住的问题。
Q&A
Q1:Atria Dawn Preview是什么?
A:Atria Dawn Preview是Atria团队推出的一款面向科研和工程场景的智能体语言模型,基于744亿参数的混合专家基础模型构建,通过可验证经验管道训练,在16个基准测试中5项拿到最高分。
Q2:Atria Dawn Preview的研发过程中AI和人类是怎么分工的?
A:数据显示AI在96.5%的任务中被使用,且经常主动提出方法方案,但人类在85.5%的方法决策和93.4%的目标决策中保留最终选择权,人类主要负责判断方向和提供关键信息,而不是亲自动手执行。
Q3:AI辅助研发真的能让原本做不成的工作变成可能吗?
A:是的,在455个已完成的AI辅助任务中,有151个被参与者评估为在没有AI的情况下根本无法完成,占比33.2%,且这些任务来自27名不同参与者,说明这不是个别重度用户的特例。