新浪财经 美股

华尔街银行应对AI成本飙升 从“空白支票”转向精打细算

环球市场播报

关注

没有人愿意给技术团队开一张空白支票。然而,在企业最初争相拥抱AI时,许多首席财务官实际上被要求这么做。如今,在接连收到几笔出乎意料的帐单后,如何控制成本已成为当务之急。

这个问题正在银行业逐渐发酵。银行的科技预算本就面临多方需求挤压,从旧有资讯科技系统现代化到网路安全,都在争夺资源。业界对提高生产力寄予厚望的一项技术是AI智能体,它能自主处理复杂任务,但这类AI本质上很难编列预算,因为每项任务究竟会消耗多少算力往往难以预测。

Bain & Co.合伙人兼金融服务高级分析全球负责人Bhavi Mehta表示,他其实不认为组织里有任何人真正掌握得很好;如果要做XYZ这件事,成本到底会是多少。他表示,随着AI朝更复杂的推理和代理式工作流程发展,完成特定任务所需的token(词元)数量可能有很大差异。随着银行扩大AI应用,在衡量商业价值的同时掌握成本也越来越重要。

根据AI评测公司Evident最新报告,在其追踪的全球50大银行中,只有12家曾公开说明采用AI预期或已实现的回报。然而,几乎所有首席执行官都在大谈AI的潜在效益。从花旗到高盛等美国多家银行在第三季财报电话会议上都谈到增加AI投资,但能够提出AI支出或其带来财务效益确切数字的高层寥寥无几。

随着银行业从试验阶段走向实际部署,彭博访问了十多名工程师、企业高层及顾问,了解他们的经验和因应策略。

虽然tokenmaxxing(即工程师尽可能大量使用AI)的做法已经臭名昭着,但token用量失控并非总是由此造成。

德意志银行科技、数据与创新策略长Christoph Rabenseifner表示,该行的监控系统发现个别员工消耗异常大量token后,结果发现其中许多人其实是在从事有实际效益的工作。因此,银行并未切断他们的使用权限,而是引导他们以更有效率的方式使用AI。Rabenseifner还表示,该行曾将一项工作改由规模较小、经过专门训练的模型处理,而非使用大型前沿模型,成本因而降至原来的几分之一。

Banco Santander SA只会先用大型前沿模型测试某项应用能否达到品质标准,一旦确认可行,就把工作转移至较轻量、成本更低的模型。该行AI长Ignacio Bernal表示,这种做法让每笔贷款核准流程的执行成本从约5欧元(5.61美元)降至0.03欧元。

Bernal表示,当一家全球性银行把AI从试验阶段推向正式营运,推论成本就不再只是可以忽略不计的小数目,而会成为真正的营运成本项目。他指出,有些流程一年要执行数百万次,运算支出因此可能大幅增加。

加拿大帝国商业银行(CIBC)发现,包括Anthropic的Opus在内,效能最强大的模型,每名员工每月成本可能高达3,000加元(2,130美元);数千名员工加起来的费用可能相当惊人。为控制成本,该行把使用权限限制在数百名员工,仍在测试中的最新内建工作平台CAI 2.0则限制为250名使用者,每人每月可花费4至250加元。

AI智能体正成为成本上升的主要驱动因素。根据Evident,大型银行2026年第一季公布19个AI智能体应用案例,高于上一季的8个。第二季数量减半,但并非银行对AI代理的热情降温,而是开始要求它们承担更复杂的工作。例如,富国银行希望AI智能体在投入各项工作流程前,先掌握房贷流程中的1,100个步骤。

与传统AI工具不同,智能体系统能自主执行复杂的多步骤任务,包括分析财务报表、追踪借款人、验证文件以及侦测洗钱活动。这类处理工作需要大量运算资源,意味着token消耗更多,也进一步推高每月成本。

一名高级数据主管表示,在部分团队第一周就用光分配到的token额度后,该行决定把token额度集中管理,并建立一个AI代理,在提示词送进模型之前先加以精简。这位主管在谈论内部事务时要求匿名。

责任编辑:于健 SF069

加载中...