新浪财经 股票

大模型「土木系」终翻身:AI Infra 年薪冲到 800 万?

市场资讯 10.14 18:28

(来源:雷峰网)

“具体是哪几个细分岗位,吃到了这波溢价?”

作者丨徐晓飞

编辑丨刘伟

“以前 AI 业内把做 Infra、做工程的叫‘计算机里的土木系’,干着最脏最累的活,拿垫底的钱。谁能想到他们现在这么值钱?”某大模型独角兽高管刘立向雷峰网感慨道。

他抛出一组薪资行情对比:AI Infra 工程岗以前在大厂,年包基本到不了 300 万;现在,好的 Infra 人有能开到七八百万的。比起算法岗(500~1400 万)还有差距,但已经算打了个漂亮的翻身仗。

上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁,也见证了这场狂飙:“2024 年在深圳见一个做 Infra 的候选人,他年薪还是 30 万;2025 年涨到 50 万;今年一跳槽,直接 100 万。”

这不是个例。

“Infra 人才从独角兽跳去互联网大厂,薪资翻倍的有;从大厂跳去独角兽创业公司,薪酬包能涨到 3 倍左右,不过期权占大头。3 倍属于个例,2 倍更常见。”他补充道。

这轮涨薪的起爆点,是 DeepSeek R1 的发布。

“2025 年初 R1 爆火,让大家看到了 Infra 提升的价值,AI Infra 人才立马被各家模型厂商疯抢,这种状态一直持续到现在。”卢炳宁表示。

然而,薪水翻倍从来不是雨露均沾。当市场的真金白银砸向这群人,究竟是什么在为他们定价?又是哪类 Infra 人,吃到了这轮红利里最肥的那块肉?

01

“土木系”,凭什么拿高薪?

什么是 AI Infra 人才?

简单来说,AI Infra 人才做的是怎么把昂贵的 GPU 算卡,榨出尽可能高的利用率,实打实替公司省钱。

卢炳宁告诉雷峰网,2022 到 2024 这三年,Infra 岗基本是个“配角工种”。

ChatGPT 出来后,国内随即进入“百模大战”和应用尝鲜阶段。资本和团队盯的是两件事:模型效果打平 ChatGPT,尽快跑出 Killer App。关注度也好,高薪也好,都优先给了算法岗和产品岗。

在“先上车再买票”的焦虑下,工程效率的优先级并不高,背后的算力浪费和调度效率问题被暂时掩盖。

“只要集群别崩、账单别炸,就算交差。Infra 工程这类支撑团队的价值,当时被等同于运维,没人当回事。”某大模型实验室算力调度专家张桐坦言。

反转发生在 DeepSeek R1 出来之后。

据卢炳宁回忆,R1 发布后,行业都在琢磨一件事:DeepSeek 就那么点人,却做出了那么好的产品,赚了那么多钱,他们到底是怎么做到的?

后来答案的一部分,落在了 Infra 降本上。

大家发现,大模型推理烧的是真金白银,而且常常把账单烧穿。这时候做 Infra 降本,省下的每一分都是实打实的利润。

于是各家开始盯着 DeepSeek 挖人,薪酬基本都是敞开了聊。

做好 Infra 降本,算力开支能节省上千万

“Infra 现在的角色,就是给厂商省钱。省钱也是在赚钱。”卢炳宁说。

能省多少?据他估算,做好 Infra 降本,算力开支能省下至少几千万的成本。

落到具体方向上,算子是把单张卡榨到极致,推理是把各类资源调度结合起来,做成本优化、提高有效利用率。其中 PD 分离、专家并行、VLLM、SGlang 这几类优化,降本降得最狠。

要知道,大模型公司最贵的开销,几乎都压在这些卡上。

业内流传过这样一笔预算配比:AI 模型公司每投 100 块到 AI 训练上,40 块花在算力,30 块花在人才,20 块打广告,剩下 10 块买数据。

训练一次大模型、跑一晚推理,GPU 集群的采购、租赁和电费,往往吃掉 AI 业务成本的大头,有的公司甚至占到 6 成以上。

可钱花出去,卡却常常在空转。

张桐告诉雷峰网,行业里 GPU 的实际利用率长期偏低,平均只在 25% 到 27%,也就是说买来的算力有一大半没被真正跑起来。

而这,恰是 Infra 人才的用武之地,“同样是这批卡,好的Infra团队能把利用率拉到 40%,这十几个百分点的差距,就是壁垒。”

简单算一笔账:B 卡 8 卡的一套机子,国内现货交割 1300 万,3 个月后的期货大概 1100 万,“但凡省 8 张卡,一千多万就省出来了”。

但省钱只是账面上最直观的一层。更深的一层是,大模型的技术竞赛,已经从拼算法创新,走到了拼底层系统工程的硬仗阶段。

AI行业阶段变了,Infra的价值权重也变了

在算法红利见顶的当下,底层系统工程成了性价比更高的杠杆。“你在 Infra 上抠出一点优化,带来的效率飞跃,远比死卷算法划算得多。”某大模型独角兽资深 AI Infra 工程师周岳坦言。

现在卷算法越来越难,因为大模型技术侧已经变了天。

大模型训练眼下近乎开卷考试。得益于开源模型普及,Transformer 等基础架构走向成熟收敛,行业比拼的重点,已经从基础预训练,转移到工程化落地、推理优化这些环节。

“现在大模型训练里,真正‘非你不可’的创造性工作已经很少了,大部分活就是数据清洗、数据配比实验、工程调优这些。这些活称不上高科技,却能带来真金白银。”周岳补充道。

他还讲了一个“七级老钳工”的例子:

Infra 工程师打开服务器,把光纤和线捋一捋,扎带松开一点别扎太紧,就能让一台服务器快个 10% 到 20%。“这玩意儿你真的讲不通道理在哪里,必须要真的干过才能摸透。”

“Infra 这个岗位,确实已经不是以前那个 Infra 了。”卢炳宁告诉雷峰网,以前 Infra 效益不高,是因为 2023、2024 年大家看的是评测,提升几个点对公司就是正向的,还能借此融到钱。

但现在算法和产品基本成熟了,公司开始转而要每张卡能产生的最大价值。这时候 Infra 带来的收益很容易被量化,价值自然就升上去了。

但价值被重估,不等于人人都涨薪。当市场把高薪砸向 Infra,真正吃到那块最肥溢价的,其实只有一小撮人。

02

仅 5% 的人吃到了这轮溢价?

看上去,“薪资翻倍”这四个字,已经成了 AI Infra 招聘市场的口头禅。但在 StartLux 联合创始人兼 CTO 郭权玮看来,这更像把少数离群值,错当成了普遍常态。

他的判断有一些数据支撑。

脉脉上的岗位薪资显示,中国大陆 AI Infra 人才月薪大致在 7.3 万元,已经略高于做大模型算法的人。不过,平均数掩盖了内部分化。真正把薪资曲线拉起来的,是那波能把算卡利用率提上去的人;而大量做“普通 Infra”的人,离翻倍还远。

比如,把 VLLM、SGLang 这类推理框架部署到产品上的 Infra 岗位,月薪大多停在 4 万到 5 万,跟“翻倍”不沾边。

更具体来说,谁的薪资在翻倍?

几位受访者给出的答案集中在两个方向:推理优化和模型量化。这类人做的事,正是把每一张 GPU 的算力尽可能压榨到极限。

“如果你帮公司省下 30% 的训练时间,或者多出 30% 的 Token 吞吐,成本就能直接降下一截,就意味着研发产出提高了。”郭权玮补充道。

在他看来,能把算子优化做扎实、把推理引擎的量化做漂亮、把吞吐量真正跑出来的人,薪资翻倍并不过分。

但问题是,这群人并没有想象中的多。

在郭权玮看来,这群人大多是在 Infra 行当里深耕了 5 到 10 年的老兵。他们早年在大型互联网公司做分布式系统、高性能计算、搜索推荐、数据库,起薪本就不低,经验很难被替代。

“你有这 5 到 10 年,才接得住今天 AI Infra 的盘子;一个刚毕业、或者才工作一两年的新人,开口就要两倍薪资,那不科学。”据郭权玮估计,这类真正吃到高溢价的人,在整个 AI Infra 人群里基本只占 5%~10%。

在涨薪分化上,卢炳宁也持类似观点。

他将 Infra 划分成了三块:推理优化加速、训练框架、算子开发。“这三块涨幅都高,但受重视程度有所差别。”

他给了一个通俗的比方:

业内一般认为算子和推理更重要,冷热也就这么分出来了。

雷峰网了解到,招聘市场上,训练框架人才的热度相对一般。原因之一是这活太烧钱了,只有头部互联网和云厂商养得起专职团队,而一些独角兽干脆把训练组整个砍掉,只留推理和算子团队。

03

谁在重金买单:五类买家,五本账

岗位冷热的分化,背后是不同雇主私下的算盘与焦虑。放眼整个行业,愿意为 Infra 溢价买单的“买家们”,大致有以下五类,它们的需求各有不同。

“字节业务体量大,他们要的是能把训练推理调度做稳的人。不管是 Seedance 还是豆包,如果推理工程师能加速 10%,一年省下的算力开支相当可观,投入产出比高得吓人。”前述大模型独角兽高管刘立表示。

腾讯走的是另一条路:早几年基模偏弱,这两年明显在补基模和完整 Infra,引入姚顺雨、单独成立 AI Infra 部门,靠从外部捞成熟团队来补齐。

阿里和百度这类云厂商,则是另一种节奏。上一波云计算和大数据的红利期里,他们就攒下大批搞分布式、做底座的 Infra 工程师,AI 浪潮一来,不少人可以直接转岗补缺。

加上两家都有自研芯片,重心更多放在异构上,招人也成了日常动作,细水长流,很少有把薪资拉爆的狂热。

真正对 Infra 人才需求暴涨的,是字节、腾讯,外加 DeepSeek、Kimi、MiniMax 这些想要把每张卡的效益都榨到极致的独角兽。

一般来说,巨头的排兵布阵讲究正规军兵团作战,一个 Infra 部门通常至少五六十人起步,算子、训练、推理、网络分得跟外科手术室一样细。

而独角兽们,往往走的是“精简特种兵”模型。

它们的 Infra 团队通常二十来号人,偏爱既懂算子底层、又能操盘推理引擎的多面手。架构也比较扁平,一个“全能”技术老大挑大梁,底下带两三个细分方向的顶尖高手,再领着二十来个资深打手,靠极高的单兵作战能力跟大厂肉搏。

最后是一群正在“赌国运”的国产芯片厂商。

“不少国产芯片厂商都已经走到 IPO 阶段,期权眼看能兑现,一些 Infra 人才会抱着‘赌一把、财富自由’的想法跳槽过去。”刘立告诉雷峰网。

虽然芯片厂开出的现金涨幅普遍在 45% 上下,很少能见到大厂那种翻倍的开价,但那张有可能兑现的股票,本身就是个极有诱惑力的筹码。

与此同时,放到底层技术栈上看,英伟达 NV 卡与国产卡这两条路线,溢价差距同样明显。

前述资深猎头卢炳宁告诉雷峰网,熟悉英伟达 CUDA 生态依然是“硬通货”,这类人才跳槽涨幅保底在 80% 以上;国产卡更依赖软硬件协同与复杂的生态适配,涨幅通常在 50% 上下,没 NV 人才那么猛。

不过,受限于外部的限售政策,NV 侧的人才本就不多;而政策又在推动各家采购国产芯片,国产卡这条线上的人,前景反而更有想象空间。

值得一提的是,北美市场对AI Infra人才同样求贤若渴。OpenAI 近期放出的岗位几乎全被推理引擎、GPU 底层算子与性能加速占据,Anthropic 也有十几个对应职位在招。

04

结语

AI Infra 人才的这波涨薪还能持续多久?这也是很多人关心的问题。

卢炳宁的判断是,这波涨薪,至少还能撑两三年。“现在还处在供不应求的状态,各家厂商基本都在招,薪酬挂得很高。”

之所以还会涨,是因为 Infra 衍生出了很多新业务场景。

通用对话基模这块,国内很多厂商布局得差不多了;但复杂垂直场景的落地,才刚刚拉开序幕。

无论是狂吃算力的 AI Coding,还是对吞吐与延迟要求极高的高清视频生成赛道,全链路的商业化闭环,很多都还没走完。

这些新赛道正在激烈交火,厂商们抢夺人才的战事远未终局。

只要大模型的商业化还在被昂贵的算力账单持续刺痛,那些能在算卡上挤出利润的 Infra 人才,就会继续获得一路走高的薪酬溢价。

加载中...