新浪财经 美股

Cursor员工调查:机密数据是否流入SpaceX用于AI模型训练

环球市场播报

关注

今年 8 月,SpaceX 旗下 AI 部门推出个人 AI 智能体产品 Grok Bot 的数周之前,AI 代码初创公司 Cursor 的工程师发现了一个潜在风险。

当时 Cursor 正处于被 SpaceX 收购的过程中,Grok Bot 由该公司负责开发。在产品开发阶段,Cursor 全体员工大量使用这款工具开展测试与日常工作。7 月末,工程师提出担忧:Cursor 内部测试产生的数据 —— 其中有可能包含客户、供应商以及商业合作伙伴的机密信息 —— 或许已经被发送至 SpaceX 的 AI 部门。《The Information》看到的内部聊天记录显示,Cursor 一名律师发出警告,如果外界得知公司把这批数据用于模型训练,将会引发 “巨大的信任危机”。

据《The Information》获取的内部通信记录以及两名知情人士透露,Cursor 随即启动调查,核查究竟有哪些敏感数据(如果确实存在)被发送给了现已改名为 SpaceXSI 的 SpaceX 人工智能部门。虽然外界无从得知这次内部调查的最终结论,但公司已经出台措施,确保未来模型训练不再纳入员工的使用数据。

该事件暴露出 AI 开发者所面临的一项挑战,尤其当下 Grok Bot 这类 AI 智能体工具愈发普及。这类产品的设计逻辑就是拥有很高操作权限,可以遍历用户电脑上各类文件与应用,以此自主完成各项任务。

但这种高度自由也带来全新安全风险,其中就包括敏感信息被无意采集、供给模型做训练素材。总体而言,各大 AI 企业均表示,不会通过访问 Gmail、谷歌云端硬盘这类第三方工具的数据来训练模型。以 Grok Bot 的文档为例,SpaceXSI 写明,公司不会利用谷歌云端硬盘的数据训练模型,用户也可以选择拒绝提供自身数据用于训练。

本次围绕 Grok Bot 的调查,并非 Cursor 第一次遭遇数据安全事故。根据内部通信记录,今年夏季,该公司员工通过一些本用于内部、却对外公开可访问的网站,意外泄露了部分客户信息。

SpaceXSI 并未回应置评请求。

早在 8 月中旬 SpaceX 以 600 亿美元完成对 Cursor 收购之前,Cursor 就已经在打造超越代码工具范畴的产品。自收购完成后,全天候 AI 办公助手 Grok Bot(可处理多种多样的任务),就成为 SpaceXSI 争夺利润丰厚的企业级 AI 工具市场的核心产品。

两名知情人士表示,为迭代 Grok Bot 早期版本,Cursor 不仅让本公司与 SpaceXSI 员工测试产品,还邀请外部个人与企业参与测试,并且收集所有人的使用记录。Cursor 可以利用这些使用记录训练 AI 模型,让模型学习智能体如何执行任务,包括执行过程中做出的操作、读取到的各类信息。

据相关报道,Cursor 员工大约在 6 月就开始开发代号为 Sand 的 Grok Bot。Cursor 前增长负责人罗曼・乌加特表示,该产品很快就在公司内部大受欢迎。员工用它处理销售、招聘、调研等各类工作,经常授予软件访问公司系统的权限,让它自主完成业务。知情人士称,这就意味着在对接外部客户、潜在候选人的工作场景中也会调用该智能体,销售沟通记录、客户档案、招聘对话中的敏感信息都有可能被它接触到。

但 7 月,距离 Grok Bot 公开发布前不久,部分工程师在 Slack 事件通报频道提出警示:Sand 内部使用所采集的训练数据里可能含有机密信息,并且这批数据或许已经发送给 SpaceXSI。

根据内部记录和知情人士说法,作为调查工作的一部分,Cursor 梳理了被纳入向外输送训练数据集的用户。有知情人士透露:部分 Cursor 员工使用个人邮箱登录 Sand,导致企业难以识别这些账号,无法把对应数据排除在训练集之外。

为此,Cursor 出台新规则:员工必须使用公司内部邮箱,才能够登录 Sand。同时规定未来训练过程不再采用任何来自 Cursor 员工的数据。

Cursor 的一名律师在公司 Slack 频道中写道:“从法律角度来看,Sand 被广泛用于各类业务场景,数据集内势必会混入属于客户、合作方、供应商等主体的保密信息。严格来说,我们并不拥有将这批数据用于训练的合法权限。”

这已经不是 Cursor 第一次因用户数据处理不当收拾烂摊子。

根据《The Information》看到的内部记录,今年早些时候还发生过一桩此前未曾对外披露的事件:Cursor 的销售与市场营销员工意外将客户信息泄露至公网。事故源自团队基于 Vercel 网站开发平台搭建的一批站点,这些网站用于销售团队维护现有及潜在客户关系。

其中有一个站点用于管理和威瑞森(Verizon)的客户对接;文档显示,站点中存放了威瑞森部分技术管理层的组织架构图,记录了多名威瑞森内部 Cursor 重度使用者、对应的产品消费金额以及个人邮箱。

虽然该威瑞森相关网站设置了密码保护,但密码连同全部 Cursor 客户信息都被直接写进网页底层代码。这意味着任何普通网民查看网页源代码,就可以读取密码与全部敏感信息。

内部通信记录显示,公司还发生过多起泄露博世、Coupa 等企业数据的同类事件。问题暴露后,Cursor 工程师紧急下线这批网站。团队甚至专门建了一个 Slack 频道来跟进层出不穷的泄露问题,频道名称就叫 “一大堆泄露客户 / 内部数据的市场推广站点”(GTM 即 go‑to‑market,市场推广)。

博世方面把采访问题推给 Cursor;Coupa 拒绝置评;威瑞森没有回应置评请求;Vercel 同样不予评论。

其实在 Cursor 归入 SpaceXSI 麾下之前,这家火箭巨头的 AI 部门就已经出现过同类安全事故。2025 年 3 月,一名 SpaceXSI 员工误将测试脚本上传至公开 GitHub 代码仓库,造成 Grok 的应用程序接口密钥泄露,外人可凭密钥访问尚未公开发布的 xAI 模型。

今年夏季,又有研究人员发现,SpaceX 的 Grok Build 开发者工具会把完整 Git 代码仓库上传至 SpaceX 所属谷歌云存储,有可能泄露开发者无意对外公开的专有源代码或者密钥。对此 xAI 关闭仓库上传功能,并且把该工具开源。埃隆・马斯克曾在 X 平台发文称:“在此之前上传到 SpaceXAI 的全部用户数据,将会被彻底、完全删除。”

加载中...