新浪科技 股票

冻住的大脑,变聪明的病历本:当AI医生学会了"记笔记"

市场资讯 11.09 21:45

(来源:科技行者)

你有没有想过一个很怪的事情:一个刚通过执业医师考试的AI系统,十年之后它看病还是和刚上岗那天一模一样?

它不会因为见过一万个病人而变得更靠谱,不会记住上周那个病人用了某种新疗法效果特别好,也不会在反复试错后总结出"遇到这种情况最好先排除另一种可能"的经验。它就像一个失忆的医生,每天都在重复第一天上班的状态。

这不是夸张。现实里的大语言模型和多模态模型,一旦部署上线,参数就被冻住了。

**模型参数:决定AI行为方式的一堆数字,相当于AI的"大脑结构"。一旦训练完成并部署,这些数字通常就不再改变。**

这件事放在写诗、聊天这类场景里问题不大,但放在医学领域就非常要命。医学指南每年都在更新,新药不断上市,旧的诊疗方案可能被证明有害。如果AI没法从自己处理过的病例里学到东西,那它看的病例越多,浪费的经验也就越多。

这篇来自NVIDIA和马里兰大学团队的论文,就是在想办法解决这个问题。他们没有去动模型参数,而是给AI配了一套"外挂记忆系统",让冻住的大脑之外,长出一套会不断进化的专业知识。

### 为什么不能直接微调一下就完事?

你可能会说,这还不简单,模型表现不好就重新训练一下,用新病例微调。

问题是,这件事比听起来麻烦得多。

首先,微调需要拿到模型权重,这对于闭源模型(比如你用API调用的GPT类产品)根本不可能,你连它的"大脑"长什么样都看不到,怎么改?

其次,就算是开源模型,微调也要花真金白银的训练成本,而且效果强烈依赖训练数据的质量,病例攒得不够多、不够干净,微调出来的模型可能更差。

那有没有不动模型参数的办法?有,之前已经有一些研究在做了,比如让AI把过去处理案例时的"反思"存成文字,下次遇到类似情况翻出来看。但这类方法有个致命伤:它们通常靠一个固定的验证集来挑选哪些"反思"值得保留。

**验证集:用来检验一个更新或方案好不好的一批测试样本,通常固定不变。**

反复在同一批验证集上调整,久而久之AI就会学会"讨好"这批样本,而不是真正变强。这就跟学生反复做同一套模拟题,刷到后来模拟题分数越来越高,但换一套真题立刻露馅,是同一个道理。如果你的验证标准一直不变,被优化的东西迟早会变成专门应付这个标准的样子,而不是真正解决问题的能力。

另外,纯文字记录经验还有个问题,就是容易丢失视觉细节。一张X光片里的细微阴影,用文字很难精确描述清楚,等于白瞎了那次宝贵的影像经验。

### 三件外挂装备,撑起一个会进化的AI

这篇论文给冻住的模型配了三样东西,分别对应医学实践里最核心的三类需求:怎么做事的流程、靠得住的事实知识、以及视觉经验。

第一样叫Skill(技能文档)。

**Skill:一份用自然语言写成的操作指南,告诉模型遇到什么情况该采取什么步骤,什么时候该停手,相当于一本不断修订的工作手册。**

举个例子,一开始Skill可能写着"咳嗽发烧的病人要拍胸片",后来发现很多时候生命体征和肺部听诊都正常,拍片其实是浪费,Skill就会被重写成"咳嗽发烧且生命体征或听诊异常时才拍胸片"。

注意这里有个细节,系统选择的是整篇重写,而不是不断往后追加新规则。这个设计看似麻烦,其实是必要的。

想象你有一本工作手册,每次遇到新情况就往后面加一页新规则,从不删除旧内容。几个月后,这本手册会变得又厚又乱,而且前面第3页的规则可能和第47页的规则互相矛盾。新来的同事翻开手册根本不知道该听哪一页的。如果不重写而只是追加,模型每次要塞进上下文的内容就会越来越长,还可能同时存在两条互相矛盾的指令,最后反而让表现变差。整体重写虽然每次都要把全部内容过一遍,但保证了手册始终是一份干净、无矛盾、可执行的文档。

第二样叫Knowledge Memory,知识记忆库。

**Knowledge Memory:专门存放"可靠事实"的仓库,每条知识都附带支持它的证据和适用条件,不是随便一句总结就能塞进去的。**

这里有个很严格的规矩:一个事实想要被收进知识库,通常需要至少两个独立病例的证据支持,光靠一个病例是不够的,除非这一个病例有权威外部来源(比如PubMed文献)直接背书。而且,带有患者个人信息、答案key之类的东西是被明确排除在外的,不许混进来。

这个设计其实挺像医学界本身的审稿逻辑。单个病例的巧合谁都见过,可能这个病人恰好特殊,但如果两三个毫不相关的病例都指向同一个结论,这事儿就有点意思了。如果不设这个门槛,AI很可能把"这个病人恰好这样"的个案偶然性,当成放之四海而皆准的规律,下次照搬到完全不同的病人身上,就可能出大问题。

第三样是整篇论文里最有意思的设计,叫MMKB,多模态知识库。

**MMKB(Multimodal Knowledge Base):一个保存着原始图像、源问题、标准答案以及现有解释的参考案例库,专门用来支撑带图像的医学任务。**

![框架总览图]

图里画得很清楚:当新病例进来,系统会用图像加文字联合检索,找出几个相似的历史参考病例,然后让模型做一件很具体的事情,去分析每个参考病例的图像证据到底是怎么支撑它的标准答案的,再把这些观察和条件拿来跟当前病例对比,哪些地方相似,哪些地方不同,哪些信息还缺失。

这个"强制对比"的步骤是整个MMKB设计里最关键的一环。研究者专门做了个对照实验来验证这件事:如果只是把参考图像和答案原样丢给模型当上下文,不要求它做分析和比较,会发生什么?

结果相当戳人。在MedChain任务3(带影像的诊断任务)上,标准检索方式甚至让分数从51.4%跌到49.6%,比完全不用参考资料还差。而加了"分析加对比"这一步的MMKB,同一批参考资料,分数直接冲到63.7%,提升了23.9%。

这说明一件事,光把答案摆在那里,模型可能会被带偏,照抄一个表面相似但实际不对的案例。你给一个学生一本参考答案,如果不要求他对照自己的题目逐条核对异同,他很可能直接抄一个看起来差不多的答案交上去,而不是真正搞懂这道题该怎么解。强制对比这一步,就是逼着模型把"参考"真正变成"参考",而不是"抄袭"。

### 怎么判断一次更新到底该不该留下?

有了Skill、Memory、MMKB这三样东西,还有一个核心问题没解决:谁来判断某次更新是不是真的有效?

论文设计了一套验证机制,核心思路是双重把关。

每次攒够一批新病例(论文里是32个一批)之后,系统会生成一个"候选更新版本"的Skill和Memory。接下来不是直接拿来用,而是让当前版本和候选版本在同一批新病例上,以及一个"历史案例缓冲池"上,分别跑一遍,比比看谁的分数更高。

**历史案例缓冲池:一批有代表性的旧病例,用来检验新更新有没有在"回头看"的时候表现更差,防止系统只顾着讨好最新一批数据而把老本行搞砸了。**

接受一次更新,必须同时满足几个条件:在新病例上平均分数要高于旧版本,而且赢的病例数不能少于输的;在历史病例上平均分数不能下降,赢的病例数也不能少于输的。

这个设计很像公司招新员工时既要考察他在新项目上的表现,也要确认他没有把老项目搞砸。只盯着新数据会不会出问题?论文做了个实验专门验证,让系统不经过这层验证,所有更新无条件接受,结果六个评测基准上分数全部下跌,跌幅在21.8%到37.8%之间,而且全部跌到了比"什么都不做"的基线还差的水平。

这其实揭示了一个挺反直觉的事实:允许AI不断学习,不等于AI会越学越好。没有筛选机制的学习,很可能是在往错误的方向疯狂加速。如果不设验证关卡,一次糟糕的更新被接受之后,会被用在后面所有的病例上,错误被不断放大,而不是被纠正。

### 这套系统到底有多管用?

光讲设计思路还不够,数字才是硬道理。

论文在六个评测基准上做了测试,覆盖互动式临床诊断(AgentClinic-MedQA)、多步骤临床工作流(MedChain)、纯文字医学推理(MedThink-Bench)、多图像医学诊断(MedThinkVQA),还特意加了两个跟医学完全无关的任务(视觉逻辑推理VisuLogic和量子校准图理解QCalEval),用来验证这套方法是不是只对医学管用。

测试用了四个不同的基础模型,包括开源的Qwen3.8-27B、Nemotron-3-Nano-Omni-30B,以及闭源的GPT-5.6-Sol和GPT-4o-mini。

| 评测基准 | Nemotron-30B基线→本方法 | GPT-4o-mini基线→本方法 | Qwen3.8-27B基线→本方法 | GPT-5.6-Sol基线→本方法 |

| AgentClinic(诊断) | 42.1→**56.5**(+34.2%) | 42.5→**54.2**(+27.5%) | 67.3→**73.4**(+9.1%) | 79.0→**83.6**(+5.8%) |

| MedChain(工作流) | 0.334→**0.375**(+12.3%) | 0.353→**0.400**(+13.3%) | 0.413→**0.460**(+11.4%) | 0.435→**0.513**(+17.9%) |

| VisuLogic(非医学视觉) | 14.4→**23.9**(+66.0%) | 26.6→29.3(+10.2%) | 21.5→**39.1**(+81.9%) | 45.8→**50.0**(+9.2%) |

| QCalEval(非医学视觉) | 47.3→**55.5**(+17.3%) | 40.9→**58.5**(+43.0%) | 62.9→**82.3**(+30.8%) | 72.3→**84.2**(+16.5%) |

在全部24个"模型×基准"的组合里,这套方法在22个组合里拿下了最佳分数,平均提升17.6%,而对比方法ACE平均只提升5.6%,还在7个组合里反而比不用任何方法更差。

**ACE:一种对比方法,持续更新AI的上下文信息,但不设验证关卡,属于"来什么新经验就加什么"的策略。**

有意思的是,提升幅度最大的恰恰是那些需要多步骤互动或者反复出现相似问题类型的任务,比如AgentClinic的34.2%提升和VisuLogic的81.9%提升。而在MedThink-Bench这类彼此独立、依赖模型自身医学知识储备的问答任务上,提升就小很多,只有0.4%到5.0%。

这个差异其实很合理。学到的流程和视觉经验,只有在"类似情况反复出现"时才能真正发挥威力,就像一个老医生看过一千个相似病例后形成的直觉判断,遇到第1001个相似病例时能立刻反应过来,但如果每次来的都是完全不同、互不相关的奇特病例,老医生的经验积累就帮不上太多忙。

研究团队还做了个鲁棒性检验,把病例顺序随机打乱五次重新跑实验,结果AgentClinic平均提升5.7%、QCalEval平均提升16.5%,标准差都很小,说明这个提升不是靠病例顺序凑巧带来的运气。

### 拆开来看,每个零件各管什么

既然有Skill、Memory、MMKB三个组件,自然要问:是不是随便留一个就够了?

论文做了消融实验,把每个组件单独拿掉,看分数掉多少。

去掉Skill后,在MedChain上掉了12.1%,在AgentClinic上掉了5.5%,分数直接退回到基线水平,说明在多步骤工作流和互动诊断这类任务里,流程指导是最关键的部分。

去掉MMKB后,在QCalEval上掉了14.0%,在VisuLogic上掉了8.2%,同样退回基线,说明视觉参考几乎贡献了全部的视觉任务增益。

去掉Knowledge Memory影响相对小一些,最大的影响出现在MedThink-Bench上,掉了2.5%,这个任务恰好是最依赖纯医学知识储备的。

这说明三个组件各自管着不同的事情,不是互相重叠的冗余设计。拿掉任何一个,补的都是不同方向的洞。

### 学到的经验能不能带着走?

这是整篇论文里我觉得挺有想象力的一个实验:让一个模型学习积累的Skill、Memory、MMKB,直接搬给另一个完全不同的模型用,中间不做任何额外训练。

结果显示,用Qwen3.8-27B学出来的经验,直接搬给GPT-4o-mini用,AgentClinic任务上提升47.3%;搬给闭源的GPT-5.6-Sol,QCalEval提升23.2%。在36组迁移测试里,33组都有正向提升,平均提升20.0%。

这件事的意义在于,这些经验是存在模型外部的,不依赖具体某个模型的参数结构。换句话说,哪天你把部署的模型从一个版本升级到另一个版本,不用重新从零开始积累经验,直接把旧的"经验包"接过来继续用。这就像一个诊所换了主治医生,但积累下来的病历本、诊疗规范、典型病例图谱全都还留着,新医生接手当天就能用上这些资料,而不用从头摸索。

### 冻住的参数之外,还能长出点别的

那没有验证机制、直接学习会怎样,前面已经验证过,答案是惨不忍睹。那有没有可能只靠固定验证集反复优化?论文对比的另一个方法SkillOpt就是这么干的,结果在冻结泛化测试里,SkillOpt在7个组合里反而比不学习更差,而本文方法在24个组合里只有1次略逊于基线。这再次印证了那个判断:在同一批数据上反复打磨,容易把能力调成专门迎合这批数据的样子。

论文还专门做了"冻结泛化"实验,用大约前70%的病例流学习,然后彻底冻结所有经验,拿后30%完全没见过的病例去测试。结果显示,学到的经验在没见过的病例上平均提升20.7%,这个数字甚至高于前面在线学习阶段的17.6%,说明积累下来的不是针对特定病例的"小聪明",而是真正可复用的流程和知识。

写在后面

读完这篇论文,让我觉得最值得琢磨的一点,其实不是三个组件的具体设计,而是那个标准检索和MMKB的对比实验里暴露出来的现象:同样的参考资料,同样的检索结果,仅仅因为要不要求模型做"对比分析"这一步,分数能差出23.9个百分点,甚至标准检索还会比完全不检索更差。

这说明一个经常被忽略的事实,给AI塞更多信息,不等于AI会用好这些信息。很多所谓的"检索增强"系统,可能正默默地在拖后腿而不自知,因为没人去对比过"给资料但不要求分析"和"给资料并强制要求对比"之间的差距到底有多大。

另一个让我意外的地方是知识记忆库那条"至少两个独立病例才能收录"的规矩。这其实是把医学循证的思路,直接硬编码进了AI的记忆更新机制里,而不是依赖AI自己判断什么该信什么不该信。这种"不信任AI的单次判断,强制要求外部证据交叉验证"的设计思路,或许比具体的三组件架构本身更值得其他领域借鉴。

一个冻住的大脑,到底能不能靠外挂的笔记本变得越来越聪明?这篇论文给出的答案是,能,但前提是这本笔记要有人把关,不是记下来的东西都值得留着。那下一个问题自然是,当这套系统运行一年、十年之后,那本不断重写的Skill文档会变成什么样子,它会不会某一天因为过于复杂而失控?

Q&A

Q1:这篇论文提出的框架核心解决了什么问题?

A:解决的是AI模型部署后无法从新病例中学习的问题。模型参数被冻住后不会自动变聪明,论文设计了Skill、Knowledge Memory、MMKB三个外挂组件,让AI在不改参数的情况下也能持续积累经验。

Q2:MMKB和普通的图像检索有什么不同?

A:普通检索只是把相似图像和答案丢给模型当参考,MMKB还强制要求模型分析每个参考案例的证据,并和当前病例逐条对比。实验显示这一步能让分数提升超过20个百分点,普通检索有时反而会让分数下降。

Q3:学到的经验能不能用到别的AI模型上?

A:可以。论文做了跨模型迁移实验,用一个模型学到的Skill、Memory、MMKB直接搬给另一个完全不同的模型使用,无需重新训练,36组测试里33组都有正向提升,平均提升20%。

加载中...