新浪财经 股票

智能体终端进网管理 统筹发展与安全

市场资讯 11.20 11:50

(来源:中国经济时报)

■中国经济时报记者李海楠

智能体加速嵌入手机、平板、可穿戴等终端,在催生新业态新模式的同时,也带来越权调用、数据泄露等安全隐患,加强终端设备治理成为产业健康发展的现实所需。近日,工业和信息化部发布《关于加强智能体终端设备进网管理的通知》(以下简称《通知》),通过完善智能体终端监管规则、强化智能体终端管理,为智能体终端新业态新模式发展提供包容审慎环境。

接受中国经济时报记者采访的专家认为,智能体能够自主感知、决策并执行任务,风险正从“说错话”的内容层面延伸到“做错事”的行动层面。此次把监管关口前移到设备上市环节,按照各主体实际控制能力配置义务,统筹发展和安全,将为智能体终端健康有序发展提供稳定预期,推动人工智能技术更好为人所用、为人服务、为人所控。

01

守牢智能体准入关口

2026年被业界视为端侧智能体发展的关键一年。IDC数据显示,今年国内生成式人工智能手机渗透率突破50%,中国市场人工智能手机出货量约1.47亿台,同比增长31.6%,占整体手机出货的约53%。智能体能力正成为中高端终端的核心卖点,智能眼镜、可穿戴设备等新形态也在加快涌现。产业快速发展的同时,智能体在开放环境中自主调用权限、操作其他应用乃至完成支付,也带来了全新的监管课题。

“当前,智能体的风险已经从聊天机器人的内容风险延伸到行动风险。”清华大学公共管理学院长聘副教授、清华大学科技发展与治理研究中心副主任陈天昊在接受中国经济时报记者采访时指出,与过去主要约束网络内容表达不同,现在的监管需要关注智能体在具体设备上能够调用什么权限、实施什么操作,以及这些能力如何随版本升级而发生变化。“此次《通知》把监管关口前移到设备上市环节,正是从表达监管走向行动监管的体现。”他说。

智能体终端的治理并非从零起步。今年以来,《人工智能拟人化互动服务管理暂行办法》《智能体规范应用与创新发展实施意见》相继出台,分别从服务管理和创新发展层面划定规则;“十五五”规划纲要也明确提出发展人工智能手机等新一代智能终端。与传统应用相比,智能体能够自主决策、跨应用调用,监管对象也从单一软件延伸到软硬协同的整机系统。

《通知》正意在把上位制度要求进一步落到终端设备的准入环节,体现出发展与安全并重、包容审慎的导向。那么,眼下,智能体在行动层面究竟会带来哪些风险?

深圳大学法学院副教授曹建峰在接受中国经济时报记者采访时认为,与聊天机器人的幻觉、违法有害信息等内容风险不同,智能体可能出现越权、被恶意操纵或投毒、偏离用户意图等问题,危及隐私、数据和财产安全,甚至被用于诈骗。他认为,把好设备上市前的“入口关”,再配合后续的升级和分发管理,才能把安全要求嵌入端侧智能体的全生命周期,兼顾各方利益,打造安全可信、健康可持续的产业生态。

从《通知》的具体部署看,进网管理中要开展智能体适配验证和风险评估,终端上使用的智能体应参考国家标准配备唯一身份码,企业须保证获证前后的一致性。

02

压实全链条主体责任

智能体终端涉及终端生产、智能体开发、应用分发等多个环节,责任如何划分,是此次制度设计的关键。

陈天昊认为,这套制度的核心逻辑,是根据各主体的实际控制能力配置义务,并明确环节之间的履责衔接。智能体开发者负责验证适配,终端生产企业负责进网及升级管理,应用分发平台负责上架把关和在架巡查;适配结果成为审核依据,能力变化则通过报备、检测和升级管理持续受约束。“各负其责、联动协同,既减少责任悬空,也为事后查明各方是否履责提供依据。”他说。至于具体损害如何赔偿,他认为仍需结合各方行为和现行法律判断。

把好入口关之后,《通知》还要求对现网升级和分发环节加强约束。企业通过在线升级推送方式现网升级的,需要制定方案、经专家评估和征求意见后再向用户提供服务;在分发环节推动应用开发者声明是否同意智能体调用。各地通信管理局承担监督检查职责,由中国信通院及相关检测机构建设智能体版本和终端型号适配库,加快推进适配标准研制。

曹建峰表示,这些安排各有指向:风险评估重在事前防控,唯一身份码使智能体行为可识别、可追溯、可问责,约束强制调用则强调尊重第三方应用的自主权,维护公平有序的竞争秩序。他介绍,《通知》管理的是预置智能体的终端整机,依托进网许可制度落实《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》的既有要求并结合智能体特点细化,智能体本身仍需遵守网信部门的专门规定。

“智能体预置于终端后即成为产品组成部分,若因缺陷造成用户人身、财产损害,终端生产者、销售者应依法承担产品责任。”曹建峰指出,落地的关键在于明确智能体缺陷的认定标准,企业未落实《通知》要求,可能成为认定缺陷或过错的依据。

在强化安全的同时,制度并未收窄创新空间。陈天昊强调,为创新留出空间的关键,是明确基本规则、允许企业探索具体实现方式。保障用户知情权和选择权,会促使企业以更好的服务和更充分的用户控制赢得信任;应用开发者声明机制为各方表达调用条件、开展合作提供制度途径,调用条件与成本分担可通过协议进一步细化,监管还应明确声明的范围和效力,推动适配标准和可信身份建设,减少重复验证和协商成本,对影响用户选择和创新参与的不合理限制依法处理。

在陈天昊看来,这种按控制能力配置义务、为不同技术路线和合作模式保留探索空间的思路,也为全球人工智能治理提供了有益参考,随着规则落地,用户信任的增强将进一步释放智能终端的市场消费活力。

总 监 制丨杨玉洋车海刚

监 制丨陈 波 刘卫民

审 核丨王小霞发 布丨申双艳

加载中...