Anthropic警告:AI模型可能很快无需访问数据中心即可实现自我复制
环球市场播报
Anthropic 周一表示,其实验结果显示,小型 AI 模型距离具备在商用物联网(IoT)设备(如智能烤箱和非知名品牌的安卓电视盒)上实现自我复制的能力,可能仅需数月时间。
在实验中,Anthropic 考察了 AI 模型是否能够发现存在漏洞的设备、将自身复制到这些设备中,并在无需人工干预的情况下持续传播。
Anthropic发现,参数量低于 300 亿的小型模型能够完成复制所需的多个步骤。然而,该公司也发现,这类 AI 模型难以从头至尾完整地执行整个操作流程。
在剔除了部分安全防护步骤的简化测试中,Anthropic 发现 GLM-5.2 及更强大的模型能够实现端到端的复制。
Anthropic 警告称,具有自我复制能力的模型将难以被关停,因为它们没有集中的关闭控制点;此外,与非人工智能恶意软件不同,这类模型还能自行识别陌生设备,并将数据中心处理器作为攻击目标。
该公司的研究重点是安卓电视、智能家电及其他联网设备等物联网(IoT)产品,因为这些设备通常缺乏足够的安全防护。
该公司还警告称,如果小型模型按其历史速度持续改进,它们将能够在今年年底前实现自主复制,而基于权重的小型复制体也将紧随其后出现。
Anthropic 同时指出,此类自主人工智能系统的复制过程可能较为缓慢,且依赖于广泛可用但安全性相对较低的计算资源。该公司补充道,应加强系统防护,以增加此类人工智能智能体传播的难度。
责任编辑:于健 SF069