（来源：财联社）
财联社10月13日讯（记者郭松峤）近日，中共中央、国务院正式印发《关于发展新质生产力的意见》（下称《意见》）。在”全面实施’人工智能+’行动”一节中，《意见》明确提出”构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。
人工智能分析师李云对财联社记者表示，此次《意见》提出构建技术监测、风险预警、应急响应体系，可以看作是对上述分散政策的顶层整合——把安全能力从单点产品上升为系统性基础设施。
在产业界，网络安全上市公司的最新技术发布和布局响应，正在把文件中“技术监测、风险预警、应急响应”的要求落到具体产品线上。
政策回应：从框架到体系的加速构建
财联社记者注意到，今年以来，政策层面，从《生成式人工智能服务管理暂行办法》到《人工智能生成合成内容标识办法》，从《人工智能拟人化互动服务管理暂行办法》到《智能体规范应用与创新发展实施意见》，我国已形成覆盖内容生成、标识管理、拟人化互动、智能体应用等关键环节的制度体系。
李云对财联社记者表示，一系列政策发布，再到此次《意见》提出“技术监测、风险预警、应急响应体系”，政策主线正在从“内容合规”转向“行为可控”。智能体一旦能调用工具、访问系统、执行任务，安全治理就不能只停留在模型输出层面，而必须覆盖资产识别、权限管控、运行审计和应急处置全链条。
产业节奏与安全设计的落差同样值得关注。业内人士指出，当前AI领域安全投入远远跟不上研发和应用的规模，安全评测、风险预警、应急处置机制等环节，仍在追赶技术迭代的脚步。与此同时，使用层面的风险不容忽视。政务、金融、工业等领域人工智能应用加速落地，部分使用者对AI能力边界认知不足，滥用、误用问题突出，也给安全治理带来新的挑战。
数据显示，截至今年8月底，全国累计有1112款生成式人工智能服务完成备案，731款应用或功能完成登记;中央网信办部署的“清朗·整治AI应用乱象”专项行动，第一阶段累计处置违规AI产品1.4万余款。人工智能健康发展综合性立法也已提上日程。
“当前类Claw智能体主要存在三类风险”
财联社记者在绿盟科技2026年秋季大模型安全创新成果发布会观察到，企业的AI治理重心正在改变，已从“管住模型说什么”转向“约束智能体做什么”。
在近日全国网络安全标准化技术委员会秘书处发布的《网络安全标准实践指南——智能体部署使用安全指引》中，首次为智能体从评估、部署到停用的全流程划出安全红线。
作为该指南的起草单位之一，绿盟科技相关负责人对记者表示，这份文件将成为企业采购、安全检查与责任认定的重要参照，智能体资产清点、权限最小化、高风险操作阻断、行为审计与长期记忆治理，正在从可选项变为必答题。
绿盟科技能力中心产品经理郭光正对记者分析，结合真实环境的实测结果，当前类Claw智能体主要存在三类风险：跨形态共有安全风险、Skills安全风险、沙箱逃逸风险。
“此外，指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷，在智能体环境下还会被进一步放大，难以单纯依靠算法升级彻底消除。”郭光正谈到。 此次大会上另外一个视角需要引起各级企业重视，当AI从“只会聊天”的工具变成替员工干活的“数字员工”的时候，企业可能面临数据悄悄流出去、数字员工行为悄悄越界的处境。当数字员工自己拆任务、发邮件、查资料的时候，效率上去了，新的麻烦也来了。
以近期公开报道的事件为例，2026年4月，美国汽车租赁软件公司PocketOS的AI编程智能体在测试环境中遇到报错后自作主张，9秒删掉了公司的生产数据库，连同一块存储上的备份也一并清除。
从产业实践看，安全评估正从”可选项”变为大模型与智能体上线的”前置门槛”。绿盟科技AI安全产品总监李斌在接受财联社记者采访时表示，要想让AI更安全地赋能自己的业务，智能体行为需要全链路审计，也就是说智能体从接到任务到每一步操作，全程记录、实时审计，出了问题能查清是哪个智能体、谁的授权、干了什么。
李斌强调，尤其是针对办公助理类智能体数据安全，需要让智能体读取和外发的文件先过“安检”，敏感数据自动拦截或脱敏放行，员工下载的AI插件安装前先做安全检查，让员工放心用AI、没敏感数据出不去。
“最后，要统一管住企业调用大模型的入口和智能体访问内部系统的权限，每个部门、每个智能体的用量和花费一目了然，超额自动‘踩刹车’。三项能力组合起来，让每一位AI数字员工有身份、有边界、有记录，让AI赋能业务‘安全’落地。”李斌表示。
（财联社记者 郭松峤）
