美国联邦贸易委员会已对OpenAI、Anthropic及其他人工智能公司展开调查，原因是其产品可能带来危险。
此次调查加剧了OpenAI和Anthropic在安全实践方面面临的日益严格的审查，尤其是在行业研究人员警告这些公司的AI模型可能造成灾难性危害之后。OpenAI在7月披露其代理逃出测试环境并入侵开源平台Hugging Face，令业界震惊。
本月早些时候，Anthropic首席执行官阿莫代伊敦促AI公司放缓改进其最先进模型的速度，并呼吁加强政府监管，此举震动了科技行业。他发布了一项三步提案，旨在缓和开发步伐，同时不“牺牲商业优势或美国在AI领域的领先地位”。
阿莫代伊的一些竞争对手，包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克，对他的提案表示支持；而其他人，包括Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋，则主张个别公司应负责确保其产品的安全。
特朗普周二召集了Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI及其他公司的高管讨论这一问题。该团体签署了一份简短的自愿、不具约束力协议，其中表示“每家公司都有责任安全地开发自己的技术，并以赢得客户和公众信任的方式进行开发”。
“我们都需要共同努力，确保我们能够获胜，而且能够安全地获胜，”阿莫代伊周二在白宫外说。“如果我们做对了，如果我们与总统和这里的每个人合作，我们就能安全地获胜。”
