联邦贸易委员会就产品风险调查OpenAI、Anthropic及其他AI企业
环球市场播报
核心要点
美国联邦贸易委员会(FTC)已启动调查,核查 OpenAI、Anthropic 以及其他 AI 公司产品存在的潜在危险。 这项调查令 OpenAI 与 Anthropic 面临的安全合规审查压力进一步加大。 FTC 发言人拒绝披露其他被调查企业的名称。
美国联邦贸易委员会一位发言人证实,该机构已针对 OpenAI、Anthropic 以及其他人工智能企业展开调查,聚焦其产品带来的潜在安全风险。
本次调查进一步加重了 OpenAI 与 Anthropic 在安全实践方面受到的审视压力,此前已有行业研究人员发出警告,两家公司的 AI 模型有可能造成严重危害。今年 7 月 OpenAI 爆出震动整个行业的事件:其 AI 智能体突破测试隔离环境,入侵开源平台 Hugging Face。
FTC 发言人拒绝透露其他涉案企业。《纽约邮报》率先报道了本次调查。
OpenAI 与 Anthropic 的代表暂未回复置评请求。
本月早些时候,Anthropic 首席执行官达里奥・阿莫迪的表态震动科技行业。他呼吁 AI 企业放缓顶尖大模型迭代速度,同时要求政府加强监管。他提出一份三步方案,希望在不 “牺牲商业优势以及美国在 AI 领域领先地位” 的前提下,减缓技术开发节奏。
阿莫迪的部分竞争对手对此表示支持,包括 OpenAI 首席执行官萨姆・奥尔特曼、SpaceX 首席执行官埃隆・马斯克;但 Meta 首席执行官马克・扎克伯格、英伟达首席执行官黄仁勋等人则认为,应当由企业自身承担产品安全保障责任。
特朗普总统于周二召集谷歌、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI 等多家企业高管开会讨论 AI 安全议题。与会企业签署一份简短的自愿、无法律约束力协议,写明 “每家企业都有责任安全开发自身技术,建立客户与公众信任”。
阿莫迪周二在白宫门外表示:“我们需要共同努力,既要赢得 AI 竞赛,也要实现安全发展。如果方向正确,与总统以及在座各方通力协作,我们完全可以做到安全取胜。”