新浪科技 股票

给AI设计师装一个会自己进化的"经验本"

市场资讯 10.16 23:56

(来源:科技行者)

你有没有想过一个问题:一个从来没在Adobe公司实习过、没用过Photoshop的AI,怎么才能学会专业设计师那种"一看就知道该怎么改"的手感?

这不是一个假设。2026年,Adobe的研究团队真的做了这件事。他们让一个语言模型去操作专业设计软件,通过230多个工具完成海报、Logo、宣传单这些复杂的设计任务。结果一开始很尴尬:在一个叫GenEval2的测试里,模型的执行成功率只有72.7%。换句话说,每做4个设计任务,就有超过1个直接失败。

但五轮迭代之后,这个数字变成了99.3%。没有更换模型,没有重新训练参数,没有请人工标注员打分。团队做的唯一一件事,是给这个AI设计师配了一本会自己越写越厚、越改越准的"经验笔记本"。

这篇论文讲的,就是这本笔记本是怎么"活起来"的。

**设计任务为什么这么难教**

先说清楚这件事到底难在哪。

图像生成,比如让AI画一张风景画,判断标准相对简单:像不像、美不美。但专业平面设计不一样,它要求产出的是结构化的、可编辑的作品,就像PSD文件里的图层,你能单独拖动、调色、删改每一个元素。这意味着一个设计任务往往需要几十个互相依赖的操作组合完成,抠图、建蒙版、调色阶、排版、加特效,环环相扣。

*长程决策问题*:当一个任务需要几十步操作才能完成时,如果只看最终结果打分,你很难知道到底是第5步选错了素材,还是第23步的蒙版没做好。这就是所谓的"信用分配"困境,好比一场足球比赛输了3比0,教练光看比分没法知道到底是后卫失误还是前锋没抓住机会。

更麻烦的是,设计任务没有标准答案。一段代码可以用单元测试验证对不对,但一张海报做得好不好,一半靠"文字有没有放对位置"这种硬指标,一半靠"整体构图有没有高级感"这种软指标。后者连人类设计师之间都可能意见不合,更别说让AI自动评判了。

所以传统的两条路都走不通。靠人类做示范样本来监督学习,成本高到没法规模化;靠一个自动打分系统去做强化学习优化,那个打分系统本身就是不靠谱的,容易被"钻空子"。

论文团队想的办法是绕开这两条路:不去改模型的参数,而是改模型外面挂着的那本"经验笔记本"。

**给AI配一本活的说明书**

这套系统的核心叫做程序性记忆库,英文是Skill Bank。

*程序性记忆*:一种用自然语言写成的、可复用的操作指南,介于单次工具调用和完整任务流程之间,专门保存"怎么做某类设计"的经验,而不是保存某一次具体做过什么。

你可以把它想象成一本活页笔记本,里面记着"双重曝光效果该怎么做"、"海报排版遇到文字溢出该怎么办"这类经验条目,每条都是一个独立的Markdown文件,写清楚什么时候该用这个技巧、要用哪些工具、有什么坑要避开。模型在接到设计任务前,先去这本笔记本里翻一翻,找到相关的几条经验塞进上下文,然后照着做。

这里有个关键设计:模型的底层参数完全冻结,笔记本才是学习发生的地方。这就像给一个经验丰富但记性不好的老师傅配一个徒弟,师傅的手艺(模型能力)不变,但徒弟会把每次干活的心得记下来贴在墙上(笔记本更新),师傅下次干活前扫一眼墙上的便签,就知道这次该注意什么。如果没有这本笔记本,师傅每次都是从零开始摸索,同样的坑要踩很多遍。

这本笔记本的进化沿着两条路径进行。

第一条叫**拓宽**,专门解决"没见过的活儿"。

系统会持续观察真实用户的设计请求,如果发现某类子任务反复出现,但笔记本里压根没有对应的条目(检索不到任何相关经验),这个空白就会被记录下来。等同一类空白出现满3次以上,系统才会真正去总结提炼出一条新经验,塞进笔记本。

第二条叫**加深**,专门解决"会做但做不好的活儿"。

如果一条经验被用过,但对应的任务却经常失败,系统会把这条经验标记为"需要修改"。修改的时候不是拍脑袋改,而是把这条经验在成功案例里的具体操作步骤,和它在失败案例里的操作步骤放在一起对比,找出真正出问题的环节,做针对性的调整。

*对比反思*:把同一条经验的成功执行记录和失败执行记录放在一起比较,让修改有理有据,而不是凭空猜测哪里错了。

拓宽负责扩大覆盖面,加深负责提高准确率,两者配合的关系有点像一家新开的餐厅。刚开业时菜单要不断加新菜(拓宽),把顾客点不到的菜补齐;但光加菜不够,某道菜如果总被投诉难吃,厨师就得反复调整这道菜的配方(加深),而不是继续加新菜掩盖问题。如果只顾着拓菜单不管口味,菜单越来越厚,但顾客满意度反而会下滑,这正是论文里观察到的现象。

**一道过滤闸门,专门防止好心办坏事**

光有"拓宽"和"加深"两个机制还不够,因为AI打分系统本身是不稳定的。

论文提到一个很实际的问题:同一张图,让打分模型看两次,给出的分数可能都不一样。如果单纯"分数变高就采纳新经验",很可能把这种打分误差误判成真实进步,把一次坏的修改错误地上线了。

*位置偏差*:语言模型在做AB对比打分时,容易受到"谁先出现"这种无关因素影响,导致同样质量的内容因为出场顺序不同而得分不同。

为了解决这个问题,团队设计了一道叫做"回放门"的关卡,英文是Replay Gate。它的核心思路很朴素:不看绝对分数,只看新旧两个版本谁赢谁输,而且要在同一批次、同样的素材条件下重新跑一遍,公平对比。

具体规则更严格:一条新经验想要正式上线,必须在被抽查的所有案例里,一次都不能输给旧版本,同时至少要赢一次。哪怕新版本在90%的案例上表现更好,只要有一个案例明显变差,这条修改就会被拒绝。

这套逻辑背后是一种很保守的产品思维:在真实产品里,一次明显的倒退比错过一次微小的进步代价大得多。这就好比一家银行升级系统前必须做灰度测试,哪怕新系统平均效率提升了20%,只要有一类客户的转账出现问题,这次升级就得先叫停,因为对已经在用系统的人来说,突然出错造成的信任损失,远比效率提升带来的好处更致命。如果没有这道回放门,笔记本很可能被一次运气不好的打分误导,把有效经验错误地删掉或者改坏。

数据显示这道门确实很严格:五轮迭代里,团队一共提出了231次修改建议,被拒绝了100次;提出了136次新增建议,被拒绝了67次。差不多三分之一到一半的提案会被打回去,这个拒绝率相当高,也说明这道闸门确实在认真把关,而不是走过场。

**五轮进化,笔记本从76条长到139条**

这套系统在真实场景里跑了五轮,用了1406条来自用户真实需求的设计请求,一共产生1869条带打分记录的执行轨迹,全程没有一个人工标注的参与。

笔记本最开始有76条经验,这些是从Adobe内部产品文档里提炼出来的,算是"冷启动"的家底。经过五轮进化,笔记本长到了139条。

有意思的是进化的节奏并不均匀。第一轮几乎全是"加深",因为刚开始笔记本里的经验没经过实战检验,问题最集中,系统忙着修修补补,59次修改提案里通过了39次,而新增经验只通过了4次。第二、三轮开始转向"拓宽",新经验大量涌入,笔记本从77条一路涨到124条。到了第五轮,系统又回头去"加深",提交了21次修改只有4次新增,把前几轮扩张留下的粗糙经验打磨扎实。

这个节奏其实很符合直觉:先把地图画大,再把地图上的路修好走。如果一开始就死磕已有的几十条经验反复打磨,永远发现不了那些"压根没被覆盖"的需求空白;但如果只顾着不停加新经验从不回头检查,笔记本会越来越厚却越来越不可靠,就像一个人不停报名新课程却从不复习,知识面广了但每门都学得半吊子。

团队还专门验证了新增经验是不是在"凑数",用嵌入向量做了个数学检验,发现新增的63条经验和最初的76条老经验在语义空间里的距离,明显比老经验彼此之间的距离更远(0.215对0.158的中位数)。这说明新增经验真的是在填补此前没覆盖到的需求,而不是换个说法重复已有的内容。

评测结果用了一个叫"完整度"的指标,衡量一个设计任务里各项要求被满足的比例。数据显示,在完整度达到90%以上这个高标准上,五轮进化后的成功比例从43%提升到了56%,涨了13个百分点。这意味着原来每3个高质量任务里勉强有1个能做到几乎完美,进化后接近一半都能做到。

**跨模型、跨任务的验证:不是巧合**

单一测试集的提升可能是运气,团队用了更广的验证。

在三个不同的底层模型上(Claude-Opus-4.6、Claude-Sonnet-4、以及本地部署的Qwen3.6-27B),经过进化的经验库都带来了明显提升。Claude-Sonnet-4上的提升最突出:GenEval2执行成功率从72.7%涨到99.3%,DPG-Bench的成功率从82.7%涨到100%。

更实际的是延迟开销。很多人会担心,多检索一堆经验塞进上下文,会不会让响应变慢很多。答案是几乎不会,平均只增加了3.4%到6.2%的耗时,某些情况下反而因为流程更直接而变快了。这有点像一个新员工手里有份靠谱的操作手册,虽然要花几秒钟翻查,但比起自己反复试错走弯路,总时间反而更短。

在四个专门的图形设计基准测试上(OpenCOLE、GraphicBench、CreatiDesign、BannerRequest400),团队做了成对胜负对比,也就是让GPT-5.4去盲评同一个任务下"有经验库"和"没经验库"两个版本谁做得更好。结果Claude-Opus-4.6以67.6%的整体胜率击败无经验版本,Claude-Sonnet-4也拿到了61.8%的胜率。

论文还给出了几个直观的案例。比如让AI做一个"苹果Logo加双重曝光花朵效果",没有经验加持的版本只是把花的图案叠在字母上,效果模糊发闷;有经验加持的版本会先把主体抠出来,做好蒙版再叠加第二张图,花朵的纹理透过字母清晰可见。再比如"男孩女孩走在玻璃通道上,鲸鲨在下方游过"这种需要空间关系的请求,没有经验的版本直接选了一张水下鲨鱼图,压根没有玻璃通道的元素,请求里的空间关系根本没法实现;有经验的版本则先找到一张合适的玻璃隧道图片,再把鲸鲨放在下方。这说明经验不仅指导了怎么操作,还反过来影响了一开始该选哪些素材,这是一个挺有意思的连锁反应。

**拓宽和加深,谁也离不开谁**

为了确认这两个机制到底谁在起作用,团队做了一个拆解实验,把"只加深不拓宽"和"只拓宽不加深"分开测试。

结果很清楚:单独用其中一个机制,效果都很有限。只做加深,完整度从冷启动的68.62分微升到69.02分;只做拓宽,涨到69.79分。但两个机制一起用,完整度直接跳到74.04分,比冷启动高了5.42分,胜率也从冷启动的46.4%涨到58.5%。

这个组合效应比两个机制单独效果之和还要大,论文里叫它"超加性"提升。原因不难理解:新增的经验条目如果描述写得不够精准,检索系统可能压根找不到它,这时候需要"加深"机制去优化它的检索描述;而"加深"机制修不好的顽固失败案例,则会被重新扔回需求空白池,成为下一轮"拓宽"的原材料。两个机制互相输送弹药,缺了任何一个,另一个都打不出全部威力。

这就像一支球队,光有前锋进攻能力强不够,还得有后防和中场组织衔接,单独强化某个位置的效果有限,只有整体配合起来,胜率才能真正上一个台阶。

**这套方法也有边界**

论文很坦诚地讨论了这套方法目前还没解决的问题,这也是我觉得整篇论文最有价值的部分之一。

第一个边界是自然语言经验条目本身的说服力有限。研究人员做了一个雪景效果的实验:模型默认用一种粒子生成的方式做雪花,但用户偏好教程里教的另一种叠加噪点的传统手法。光把这个偏好写成一条经验塞进笔记本,模型识别出"这是个我已经会的效果"之后,依然会自动切回默认做法。最后只能靠限定检索条件、砍掉默认工具的可用性,才强行让模型改用用户指定的方法。这说明一段文字描述有时候压根拧不过模型内置的"肌肉记忆"。

第二个边界是精细几何操作的感知极限。团队试着让AI做一个"画框里嵌套三层递归画面"的Droste效果(也就是俄罗斯套娃式的图中图),涉及到精确判断画框边界、图片是不是严丝合缝地贴合。结果无论怎么调整,模型对这种像素级精度的判断都不够准,连打分模型自己都经常把明显歪斜的摆放判定为合格。这暴露了一个更深的问题:不只是执行能力不够,连"怎么判断这件事做对了没有"这件事本身,AI都做不准。

第三个边界,团队称之为"氛围画"现象。给AI一个参考图案,让它画出对应的基础拼接单元,AI往往会画出一个"看起来很像、气质对了,但结构完全不对"的东西,就像你让一个学生临摹一幅画,他画出来的东西乍一看有那么点意思,但细看会发现比例、结构全都是错的,没法真正拿去用。团队发现,用经验库去指导短小、自包含的操作(比如画一个基础单元),效果很好,能做到一次成型;但把同样的思路推广到更长、更复杂的构造任务时,误差会在标注、提炼、执行这三个环节层层累积,最后结果明显走样。

这几个边界共同指向一个道理:语言描述能传递知识,但改不了模型的默认行为惯性;能提升检索准确率,但补不上底层感知能力的短板;能压缩短流程的经验,但压不住长流程里误差的累积。

写在后面

读完这篇论文,我印象最深的不是那个从72.7%涨到99.3%的数字,而是团队愿意花整整一个附录,老老实实写出这套系统三个明确的失败场景。这在很多论文里是不常见的,大部分工作报喜不报忧,但这篇论文把"氛围画"这种带点自嘲意味的失败现象也认真记录下来,甚至专门给它起了名字。

还有一个细节让我反复琢磨:为什么这套系统在"经验条目本身"和"检索这个经验条目的能力"之间要分得这么清楚。一条经验写得再好,如果检索系统匹配不到它,等于白写。这提醒我一个更普遍的道理,知识管理系统里,"内容对不对"和"能不能被找到"其实是两件独立的事,很多组织的知识库效果不好,未必是内容质量差,而是检索机制没跟上,内容再好也躺在角落里睡大觉。

这套框架目前只能算解决了"重复出现的常见问题",那些长尾的、极度个性化的偏好,还得靠人工介入才能打磨到位。一本会自己进化的笔记本终究只是缓解了问题,而不是彻底终结了问题。

那么下一个问题来了:当这本笔记本积累到成千上万条经验的时候,检索本身会不会变成新的瓶颈?

Q&A

Q1:Skill Bank程序性记忆库是什么?

A:它是Adobe研究团队为AI设计代理配置的一个外部经验库,用自然语言记录可复用的设计操作流程,模型参数保持不变,只有这本"经验笔记本"在持续更新和优化。

Q2:拓宽和加深这两个机制分别解决什么问题?

A:拓宽负责发现用户请求中反复出现但经验库里没覆盖的空白需求,并总结出新经验;加深负责修改已有但经常导致失败的经验条目,让现有经验更可靠。两者单独用效果有限,组合起来效果会明显放大。

Q3:这套系统在实际测试中提升了多少?

A:在Claude-Sonnet-4模型上,GenEval2基准的执行成功率从72.7%提升到99.3%,在四个专业设计基准上平均胜率超过60%,而且几乎没有增加额外的响应延迟。

加载中...