新浪财经 美股

AI推理初创企业悄然自研采购芯片

环球市场播报

关注

有一批快速崛起的初创公司,商业模式是向云厂商租赁算力、再转售给客户,此前一分钱都没有投入自有 AI 芯片。如今它们走到了十字路口:越来越难拿到足够算力服务客户,一部分企业开始自行采购芯片,这很可能彻底改写它们的商业成本结构。

算力供给紧张,也迫使这类初创企业转向数十家规模更小的新云厂商(neocloud)寻找资源。相比微软 Azure、AWS、谷歌云这类超大规模云厂商,新云厂商通常还有更多富余算力。知名推理服务商 Fireworks 遭遇黑客攻击一事,也凸显了这条路线暗藏的风险。

知情人士称,这次黑客攻击,根源是 Fireworks 所使用的一家小型云厂商安全防护薄弱。攻击事件发生后,Fireworks 的部分客户开始考虑更换服务商。

Fireworks 这类公司被称为推理服务商:它们面向需要芯片运行 AI 模型的客户提供服务,这个运行过程就叫推理。它们原本不持有芯片、不运营数据中心,重心放在开发软件,帮助客户优化 AI 模型的运行效率。

这类企业增长极快。Fireworks 称,公司 7 月年化营收突破 10 亿美元,同比一年前增长 5 倍。The Information 在 9 月报道,Fal 等同行的营收增速短短几个月就实现翻倍。Fireworks 最新估值 175 亿美元,在这批推理服务商中估值最高。

但算力越来越难获取,可能拖累整个赛道的高速增长。

部分云厂商已经不太愿意把算力租给竞争对手。知情人士透露,CoreWeave 今年早些时候决定停止向 Baseten 出售算力。消息称,CoreWeave 在今年 3 月推出了自家推理服务,不愿把算力资源供给竞品。但一名接近 Baseten 的人士否认 CoreWeave 削减了对 Baseten 的算力供给。

CoreWeave 发言人表示:“我们和各家推理服务商保持良好合作,不少都是我们的合作伙伴。只要适配它们的商业模式,就会采购 CoreWeave 的服务,我们也乐于支持。”

云厂商 digtalOcean 的 CEO Paddy Srinivasan 说,他会优先服务有真实终端需求的客户,而不是转手倒卖算力的公司:“老实说,有大量客户基于我们的平台开发软件,需求旺盛。”digtalOcean 运营自有数据中心。

一些推理服务商的应对方案是广泛对接大量小型云厂商。Modal 的 CEO Erik Bernhardsson 在采访中介绍,公司成立前四年,合作方主要是各大超大规模云厂商和少数新云;后来无法从大厂拿到想要数量、价格的英伟达 Blackwell 芯片,于是过去一年新增了 30 家新云合作伙伴。Modal 依然和超大规模云厂商合作,但通常从它们那里采购其他型号芯片。

部分云计算行业高管认为,如果算力需求回落、或是大厂切断供给,没有自有硬件的推理服务商就会陷入被动。

Iren 公司首席商务官 Kent Draper(Iren 自建数据中心)评价:“推理服务商就像是 GPU 世界里的 WeWork。WeWork 签下长期办公场地租约,再短期转租。行情好的时候一切顺畅,一旦需求枯竭或者融资断流,模式就难以为继。大家现在看到了垂直整合的价值。”

别无选择

部分推理服务商认为,只能投入资金自建硬件。Fal 主打视频、图像 AI 模型托管,今年 7 月入职、负责搭建数据中心战略的 Raghu Rao 表示,Fal 近期已经开始采购英伟达芯片,部署在租赁的数据中心内。Fal 本月早些时候完成 16.5 亿美元融资,这笔资金将用来扩充算力,包括采购 GPU、向 AWS 租用机房资源。Rao 称 Fal 还在扩招数据中心相关团队。Fal 采购硬件的计划此前未曾对外报道。

“随着业务规模暴涨,我们既需要租赁算力,也必须持有自有硬件。”Rao 说。

知情人士透露,Fal 还向投资人表示,有意通过举债来支撑硬件采购。Rao 拒绝对债务融资的可能性置评。

近几个月,多家推理服务商已经和贷款机构、中介洽谈借款,用来和新云厂商签订算力采购合同。知情人士称,这些企业希望使用债权资金,而不是消耗风投股权融资款,来锁定算力资源。

另一边,Together 从去年就开始采购自有硬件,The Information 在 3 月报道,计划 2026 年底拥有 250 兆瓦自有数据中心容量。知情人士称,Baseten 也计划采购英伟达 GPU,部署在由自己运营管理的数据中心。

CoreWeave 自身也经历了类似转型:此前大多运营别人名下的数据中心,去年官宣自建园区,认为这是掌控硬件资源最好的方式。

不过,并非所有推理服务商都认为必须持有硬件。知情人士称,Fireworks 管理层向投资人表示,采购实体芯片、建设运营数据中心属于同质化大宗商品业务;Fireworks 的护城河是开发可以高速运行模型的软件,这一点更难复制。另一位知情人士称,Fireworks 目前没有采购硬件的计划。

知情人士表示,Modal 也向投资人表达意向,计划采购更多自有硬件投入数据中心。Bernhardsson 在采访中说,公司会想尽一切办法拿到所需算力,但他并不认为差异化来自持有硬件 —— 这一点和 Iren 等硬件自建方对 Modal 这类推理服务商的批评一致。

“硬件层并不是创造大量价值的地方。说到底,你只是买芯片再转手提供算力。”Bernhardsson 说,“所以我们聚焦软件层,这才是我们持续创造最大价值的地方。”

加载中...