（来源：智通财经）
智通财经APP获悉，当OpenAI在10月披露其在一间高管会议室发现录音设备时，多名前员工的反应一致——他们并不意外。据五名知情人士透露，早在OpenAI于2022年底推出ChatGPT之前，一些员工就已在内部对其安全措施提出担忧。这些人士称，员工曾向OpenAI高层和董事会表达担忧，部分员工在与管理层沟通后得出结论：管理层更关注跟上谷歌(GOOGL.US)和Anthropic等竞争对手的步伐，而不是安全问题。
这些员工认为，OpenAI的管控过于宽松，外部人员可以相对轻易地获取这家AI实验室的技术敏感信息。例如，公司内部任何能访问代码的人，都能看到许多项目的底层技术细节。
据两名知情人士称，OpenAI已开始调整策略以应对安全问题。负责产品开发的高级高管Thibault Sottiaux最近接手了一项保护OpenAI内部系统的内部倡议。一名知情人士称，今年8月，Sottiaux将OpenAI四分之一的生产工程师重新调配，以改善安全基础设施。
这些内部警告——包括员工多年来向领导层反映内部漏洞，其中部分细节此前未被披露——凸显出AI领域的紧张关系。自ChatGPT于2022年底推出以来，AI技术已成为美国的战略资产，这促使美国公司面临保护技术不被外国竞争对手获取的压力。
但叠加安全措施也可能拖慢AI技术推进，并可能让OpenAI和Anthropic的大规模首次公开募股(IPO)计划复杂化。这两家公司若上市，将跻身全球市值最高的公司之列。
今年4月从OpenAI辞职的前研究员Will DePue在X上的一篇帖子中写道，在如此激烈的竞争下，AI领导者“不能为了安全牺牲速度。对他们而言，快速推进比确保安全更重要，即便对手是我们最强大的国家级对手。”
当被问及员工的担忧以及他们认为管理层未就这些问题采取行动时，OpenAI发言人Elana Widmann表示，OpenAI是全球被攻击最多的组织之一。因此，公司投入大量资源用于安全计划，以防范内部人员、网络罪犯和民族国家的攻击。
Widmann说：“保护我们的技术、数据和人员是我们认真对待的责任，也是事关国家利益的大事。”“我们最近采取的行动表明，这套安全体系正在发挥作用：识别风险并果断应对。随着技术和威胁演变，我们将继续加强防御。”
录音设备事件与代码库隐忧
10月13日，美国司法部称，联邦探员逮捕了一名沙特籍男子，指控其在一间高管会议室安装隐藏录音设备，设备被藏在卫生纸中。Abdulrahman Alfozan现年35岁，当时是OpenAI工程师。
根据一份法庭文件，Alfozan还使用一款面向OpenAI员工的AI工具，查找有关高管访问沙特的内部文件，以及哪些OpenAI官员最可能参加与沙特部长的会议。Alfozan与一名沙特王室成员保持定期联系，后者试图招募他参与一个将在沙特启动的新AI项目。Alfozan的律师未回应置评请求。
五名知情人士称，一些员工长期以来一直担心OpenAI内部信息可被广泛获取。
这些人士称，任何能访问OpenAI代码的人，都能看到公司许多项目的细节，包括与员工本职工作无关的敏感项目。这是因为OpenAI将大部分代码存放在一个单一代码库中，业界称为“monorepo”。该代码库庞大而复杂，过去或曾让一些潜在攻击者望而却步。如今，AI代理已能筛查如此海量的材料。
五名知情人士称，过去OpenAI将许多研究文档存放在GitHub和Slack上，这引发部分员工担忧：有目的的攻击者仍可能找到关键信息。但其中一名消息人士和OpenAI表示，公司已限制对敏感工作的访问。
OpenAI强调，其最敏感的工作存放在单独的代码库中，并设有严格的访问控制。该公司还表示，monorepo并不包含其全部代码或公司模型的关键细节，包括决定模型行为的数值，即模型权重。
另一问题是，三名知情人士称，OpenAI未对内部工具进行定期安全审查，例如研究人员用于压力测试新模型的“沙盒”。这三名人士称，员工常因工作需要修改这些工具，但相关更改并不总经过安全测试，使其可能易受外部攻击。
OpenAI表示，在2024年10月上任的首席信息安全官Dane Stuckey领导下，公司采取了强有力的安全举措。OpenAI称，现已定期对内部工具进行安全审查。
安全与速度的两难
OpenAI并非唯一面临安全问题的AI公司。
今年1月，旧金山的一个联邦陪审团裁定一名前谷歌员工有罪。此人于2024年3月被捕，被控窃取数千页有关谷歌AI技术的机密信息。
10月底，网络安全初创公司Cathedral Systems表示，其攻入Anthropic系统，访问了员工讨论敏感模型细节的Slack频道。Anthropic发言人称，被访问的数据包括客户和合作伙伴的部分业务联系信息，以及一组基本用户账户记录。Cathedral首席执行官未回应置评请求。
OpenAI和Anthropic试图维持更开放的研究文化，以吸引人才并激发可能带来突破的创造力。AI领域根植于学术界，机器学习科学家过去常在学术环境中公开讨论研究。
据五名知情人士称，随着AI能力增强，一些OpenAI员工越来越担心这种方式。
今年夏天，OpenAI内部的安全担忧再度升温：OpenAI正在测试的AI代理入侵AI公司Hugging Face，事件引发州、地方和联邦官员审查，白宫也在其中。
网络安全公司Hacktron AI表示，其三名研究人员7月使用Anthropic的一款竞品AI模型，入侵多名OpenAI员工的ChatGPT账户，并访问了OpenAI部分内部系统，包括其monorepo。该事件暴露出，先进AI如今也能让AI公司自身面临攻击风险。
OpenAI的Widmann表示，公司感谢研究人员分享发现，并已采取措施降低未来类似攻击的风险。
OpenAI周一在博客文章中表示，计划启动“下一次内部安全冲刺”以强化防御。
