新浪科技

中国头部人工智能公司主动削弱新模型的网络攻击能力

商业周刊

关注

中国头部人工智能(AI)开发商正推出新一代先进模型,并主动削弱其网络攻击能力。

阿里巴巴、腾讯和月之暗面近期发布的新模型都降低了网络攻击能力,并提升了防御性能。阿里巴巴最新一代旗舰Qwen模型没有公开模型权重,也就是决定模型响应方式的内部参数,因此用户无法下载完整模型并自行定制。

所谓开放权重模型颇受黑客的青睐,因为这类模型可以在本地运行并调整内部参数。DeepSeek的模型尤其受欢迎,阿里巴巴的Qwen系列也跻身全球下载量最高的开放权重模型之列。

过去数月,美国AI公司同样开始限制外界接触网络攻击能力较强的模型。Anthropic没有向公众开放Mythos Preview模型,而是仅提供给部分机构,用于防御性安全工作。

CrowdStrike研究人员10月称,黑客曾利用DeepSeek模型对14个国家的机构发动攻击。

腾讯首席AI科学家姚顺雨11月在香港一场活动上表示,AI模型的网络攻击能力,以及未来可能具备的生物能力,将达到足以“真正造成伤害”的程度。

腾讯11月早些时候发布Hy4模型之前降低了其网络攻击能力。月之暗面也对Kimi K3.1 Pro采取了类似的措施。智谱则在8月开放GLM-5.3模型权重前完成了安全审查,并向有关机构通报系统漏洞。

中国商务部10月公布一项草案,拟禁止出口可用于攻击国家关键基础设施、政府网络或威胁军事目标的AI工具。根据草案,被认定为“世界领先”的大型语言模型,其海外部署也可能受到限制。编辑/陈佳靖

加载中...