Fireworks遭遇新黑客攻击,十亿美元业务面临风险
环球市场播报
Fireworks AI 首席执行官:林乔
据两名知悉此次数据泄露事件的人士透露,面向开发者提供开源大模型推理与训练服务的初创公司 Fireworks,在上周向包括 Harvey 在内的部分大客户通报了一起性质更为严重的系统黑客入侵事件。该公司于周一确认,本次攻击造成部分客户数据外泄。
其中一位知情人士表示,部分每年在该平台投入数百万美元服务费的大客户,正在考虑迁移至其他服务商。这起事件凸显出:随着 AI 辅助网络攻击愈发普遍,各类企业正面临日益严峻的安全风险。
Notion、Vercel、SpaceX 旗下 Cursor 等一众知名 AI 初创企业均在使用 Fireworks 的服务,这些公司会在内部业务或是面向用户的产品中调用经由 Fireworks 提供的大模型。目前尚不清楚这些 Fireworks 客户,以及这些客户的终端用户数据是否同样遭到泄露。
Harvey 的发言人表示:“本次黑客事件并未造成 Harvey 的客户数据受到影响。”
Fireworks 于周一发布安全公告,更新了 10 月曝光的旧安全事件。在 10 月的事件中,攻击者盗用 Fireworks 内部凭证,访问到客户账户内 AI 模型评估相关数据;当时该公司称,没有发现客户模型与业务数据被非法访问的证据。
但在周一的公告中 Fireworks 披露,这一轮新的黑客攻击泄露的数据包含客户账单信息、客户的模型权重与数据集。一名了解调查进展的人士称,目前还无法判定 10 月的入侵事件和这一轮新攻击是否存在关联。
公告中写道,公司正与帕洛阿尔托网络旗下威胁情报安全咨询部门 Unit 42 联手调查本次攻击;该攻击和一个网络犯罪团伙有关,该团伙的作案手法叫做LLM 劫持(LLMJacking):盗取大模型服务令牌,再对外倒卖牟利。
公司发言人表示:“我们高度重视该事件,正直接对接客户提供对应支持,同时联合 Unit 42 排查问题、落实安全加固措施。”
《福布斯》此前已经报道过该黑客事件的部分细节,但并未披露受影响客户名单。
Fireworks 成立于 2022 年,在一众做开源大模型推理、训练的初创企业当中估值最高。过去一年 AI 行业爆发,截至今年 7 月,Fireworks 的年化营收已经飙升至10 亿美元。该公司原本计划本周启动新一轮融资,目标估值达到 300 亿美元及以上;而它 7 月的估值为 175 亿美元。上周 Fireworks 官宣聘请前 Meta 首席战略官戴夫・韦纳出任首席财务官,释放出未来几年筹备上市的信号。
大模型能力飞速迭代,AI 发现软件漏洞的速度已经远超企业修复漏洞的速度。黑客正在利用 AI 这一能力,以前所未有的速度入侵重点网站、软件,挖掘安全漏洞。例如 10 月,有人利用 AI 找出了 PHP 语言的安全漏洞(全球约 70% 网站使用 PHP);黑客组织 CyberCartel 就借助 Anthropic、SpaceX、月之暗湎的大模型,针对 400 余家拉美金融机构发起攻击。
面对这样的局面,近数月各家企业高管都在加码安全投入,扩充安全团队人手、采购安全软件。Anthropic、OpenAI 这类大模型厂商,也推出专门面向网络安全、漏洞挖掘修复的专用模型,同时推出专项项目,向企业开放这类安全 AI 工具。