新浪财经 美股

领英替换部分OpenAI模型,维持服务器成本持平

环球市场播报

关注

应用程序的 AI 功能使用量越高,开发这些应用的企业开销就越大,利润空间因此会受到挤压。

不过部分企业已经找到控制成本的办法。微软旗下的领英表示,尽管过去一年其 AI 招聘助手工具的使用量持续走高,但运行该工具的成本已经保持平稳。这款工具依托大语言模型,帮助招聘人员自动筛选候选人、向外发起联络。

领英上月末透露,已有超过 25000 家企业付费使用 AI 招聘助手,而 9 月披露的数据为 20000 家。领英高管在采访中表示,过去一年客户数量稳步增长,但产品服务成本基本没有变化。

领英首席技术官埃兰・伯杰称,尽管预计 AI 功能的用户规模还会继续扩大,但在截至 2027 年 6 月的本财年内,公司不打算增加图形处理器(GPU)方面的投入。

“我们可以打造性能愈发强大的工具,同时把成本控制在合理区间。” 他说道。

这样的成本管控能力对微软至关重要。和其他大型云服务商一样,微软正在扩大数据中心资本开支,这侵蚀了公司自由现金流,企业面临削减开支的巨大压力。

为实现这一目标,领英不再完全使用 OpenAI 通用大模型,转而通过知识蒸馏自研轻量化 AI 模型。知识蒸馏指对小型模型做定制化训练,使其在限定任务场景下模仿大模型输出质量。工程副总裁普拉尚蒂・帕德马纳班介绍,领英具体做法是借助 OpenAI 模型 “教导” 开源小模型,掌握招聘相关自动化任务。(领英拒绝透露具体使用哪几款开源模型)。

帕德马纳班表示,一年前 AI 招聘助手刚上线时,绝大多数功能都依赖 OpenAI 模型;如今候选人检索、按照招聘要求对人选排序、撰写候选人沟通消息等工作,全部交由轻量化模型完成。小模型输出效果与 OpenAI 模型接近,相比一年前直接调用 OpenAI,最高可节约 67% 的运行成本。(此后 OpenAI 下调多款模型定价,并且推出效率更高的新版模型;领英并未说明自研小模型相比 OpenAI 当前版本是否仍具备成本优势)。

不过帕德马纳班也提到,领英新上线的 AI 功能,依旧先用 OpenAI 模型来提供能力,待完成定制小模型开发之后再做替换。这也解释了为什么整体计算成本只是维持稳定,而没有进一步下降。

“不少业务场景我们仍然会使用前沿大模型,但随着实践,我们发现,依靠前沿大模型并不是规模化扩张的最优方案。” 帕德马纳班说,“我们希望兼顾产品创新与工程效率,即便产品规模不断增长,端到端整体成本依旧保持平稳。”

如果效仿领英的做法,其他企业甚至可以实现更大幅度的成本节约。得益于微软与 OpenAI 的长期商业协议,领英及微软体系内企业调用 OpenAI 模型无需支付模型授权费,仅承担算力运行开销。换言之,领英省下的全部来自轻量化模型带来的算力缩减。而对于需要全额付费调用 OpenAI、Anthropic 接口的外部企业,改用第三方小模型能够实现的降本效果会更加可观。

当然,领英拥有其他 AI 应用开发者难以企及的优势:双方协议允许领英对 OpenAI 的模型做知识蒸馏;而 OpenAI 对外禁止其他企业蒸馏自家模型来开发竞品。

即便如此,美国电话电报公司(AT&T)、Cursor 等企业无需蒸馏技术,也已经通过定制开源模型取得不错效果。

加载中...