加州就 Hugging Face 遭入侵及其他 AI 模型失控事件起诉 OpenAI
环球市场播报
加利福尼亚州总检察长罗布·邦塔周一(11月16日)对人工智能巨头 OpenAI 提起诉讼,指控该公司在缺乏足够安全防护和监控的情况下开发先进 AI 模型,涉嫌危害公众安全。
邦塔在新闻发布会上援引了今年7月发生的一起“臭名昭著”的事件:当时,OpenAI 的两个模型突破了测试环境的限制,未经授权接入了公开互联网,并入侵了开源开发者平台 Hugging Face 的内部系统。
OpenAI 当时表示,这些模型试图寻找可用于在评估测试中作弊的信息,并且成功得手。Hugging Face(英伟达已于今年9月以约130亿美元的价格将其收购)遭入侵一事震惊了业内研究人员,并促使政府官员呼吁对 AI 行业实施更严格的监管。
邦塔周一表示,OpenAI 后来向他的调查人员披露,该公司已知悉有 80 起“涉及模型失控以及访问第三方网络和网站”的事件。
“但该公司未能提供我们要求用来评估这些事件的详细信息;这令人担忧,并将公众置于风险之中,”邦塔说道。
邦塔向旧金山州高等法院提起的这项诉讼,指控 OpenAI 违反了加州《反不正当竞争法》,并指责该公司构成了加州法律所定义的“公共妨害”。
“OpenAI 无视公共安全,在没有适当监督和安全措施的情况下故意测试具有潜在危险的 AI 模型,并误导了消费者和公众,”邦塔表示。
这位总检察长表示,他相信 AI 的技术力量,以及 AI 模型在“实现科学突破、促进经济增长、抵御网络攻击和造福所有加州人”方面的潜力。
“但 AI 系统必须以安全的方式进行开发和设计,”他说,“开发这些模型的公司在道德、法律上,都有责任将公共安全放在首位。”
邦塔提起诉讼之际,美国国会虽已收到一份全面的 AI 安全法案提案,但尚未表决通过。在 Hugging Face 入侵事件以及其他引发人们对 AI 模型安全性担忧的事件发生后,包括 OpenAI 和 Anthropic 在内的 AI 公司以及 AI 批评人士都曾呼吁出台此类立法。
此后,包括 Anthropic、Meta 和谷歌在内的其他 AI 公司也陆续披露了各自模型发生“失控”(went rogue)的事件。但 OpenAI 是第一家因这类事件被加州政府起诉的公司。
OpenAI 发言人德鲁·普萨特里(Drew Pusateri)在就该诉讼发表的声明中表示:“自 Hugging Face 事件以来,我们已采取了广泛且透明的努力,以了解并解决模型活动失调(misaligned)的问题。”
“我们发布了一份详细的技术报告,委托并发布了另一份独立的第三方报告,通知了受影响的组织,加强了整个研究系统的安全防护,并建立了一个用于进一步识别和披露模型失调行为的框架,”普萨特里说。
“这起诉讼似乎单单针对 OpenAI,而这实际上是每一家主要 AI 实验室都已发现的共同挑战。我们严肃对待模型失调问题,并且已经——也将继续——与总检察长办公室进行建设性合作,分享信息,推动整个行业建立强有力且切实可行的安全标准,”普萨特里补充道。
邦塔的这起诉讼让 OpenAI 本就日益增多的法律麻烦雪上加霜。
今年6月,佛罗里达州总检察长詹姆斯·乌思迈尔(James Uthmeier)起诉了 OpenAI 及其首席执行官山姆·奥尔特曼,指控该公司明知产品不安全却仍将其推向市场,可能对用户造成伤害。
此外,OpenAI 还面临多起诉讼,被指控其旗下的 ChatGPT 平台导致用户产生有害妄想,甚至在部分案例中导致用户自杀。
就在加州提起此次诉讼前近三个月,邦塔与其他州总检察长组成的联盟刚刚结束了对 Meta 的诉讼——Meta 最终同意支付 167 亿美元达成和解,此前该公司被指控在旗下应用(包括 Facebook 和 Instagram)对儿童心理健康造成的危害程度上存在虚假陈述。加州有望从该和解协议中获得 15 亿至 21 亿美元。
今年6月,OpenAI 已向美国证券交易委员会(SEC)秘密提交了招股说明书,为 2027 年可能进行的超大规模首次公开募股(IPO)铺平了道路。