新浪财经

瞭望丨AI立法地方探路

滚动播报 10.17 10:13

(来源:瞭望)

◆地方AI立法对焦点问题依法治理的有益尝试,为下一步构建更富前瞻性的AI安全监管法规制度起到探路作用

文 | 《瞭望》新闻周刊记者 张舒宁 张璇 李晓玲

7月至9月,杭州市人工智能产业发展促进条例草案、广东省人工智能发展促进条例草案送审稿分别面向社会公开征求意见,预计于近期提交相关地方人大常委会初审。今年以来,江苏省以及南京、苏州、无锡、厦门等地人工智能专项立法已进入初审环节,条例草案经修改后将提交二审;广州市人工智能发展促进条例草案修改稿将于近期提交三审。

2022年,深圳、上海率先出台人工智能产业促进专项立法(以下简称“AI立法”)。时隔近四年,AI立法的地方探索呈现更加密集的集中推进态势,地方数量更多,且涉及省、设区的市、经济特区等多个层级。

接受《瞭望》新闻周刊记者采访的业内人士和地方立法工作者认为,在国家层面加快推进人工智能健康发展综合性立法的大背景下,地方AI立法已进入新阶段。这一阶段既呈现出鲜明的“促管并重”特点,又立足地方实际实现差异化发展;既在分级分类监管、全链条促进产业发展和生态构建方面拟定共通性规范,形成依法治理AI的通用框架雏形,又通过总结提炼本地发展与治理经验,对前沿性AI治理焦点问题作出探索性回应。

“随着我国AI技术和产业应用快速发展,越来越多的地方加入AI立法实践行列,为国家层面人工智能法律法规的制定探路,最终成法和实施效果值得期待。”中国政法大学人工智能法研究院院长、人工智能伦理与法治评测北京市重点实验室主任张凌寒说。

监管通用框架初步搭建

“2022年是我国地方AI立法起步之年,当时大模型还未进入公众视野,立法重在‘把产业扶起来’。”中国政法大学人工智能法研究院副教授文禹衡认为,与深圳、上海AI立法时相比,本轮地方AI立法的背景已发生较大变化。

一方面,伴随AI大模型、智能体快速发展,其对百姓就业、教育、生活的深刻影响日益显现,如何保证AI发展始终处于人类控制之下,造福于人类成为更加迫切的现实问题。另一方面,《人工智能科技伦理审查与服务办法(试行)》《生成式人工智能服务管理暂行办法》等政府部门规章相继出台,我国初步构建起涵盖多层次、多维度的AI治理框架,并在各地执行过程中持续积累丰富实践和积极反馈。

因此,本轮地方AI立法仍均以“产业(发展)促进”为题,但在社会广泛关注的AI安全治理问题上,均不约而同作出更为具体的刚性规定,在“管什么、如何管”等问题上形成一定共识,呈现出初步的监管通用框架,并立足地方实际对一些前沿监管问题作出回应。

监管通用框架已现雏形。模型安全评估、科技伦理审查、算法备案、内容标识……本轮地方AI立法将近年来陆续出台的监管要求加以集成,体系化监管的“四梁八柱”更加清晰。同时,针对确保训练数据合规、明确AI服务提供者责任、构建算法安全链条等AI治理实践中的难点问题,作出方向性规定。例如,江苏、无锡、杭州等地条例草案,都对生成式人工智能服务提供者的安全管理责任作出规定,包括采取技术措施防止违法信息生成,建立健全内容审核与应急处置机制等。

分级分类实施监管已成为全球AI治理共识,也是我国关于AI治理主张的重要内容。本轮地方AI立法积极吸纳这方面的实践经验,既沿用此前深圳、上海条例对高风险AI应用“事前评估+风险预警”、中低风险AI应用“事前披露+事后控制”的监管模式,又进一步明确以应用风险为重点制定分级标准,更加突出使用导向和场景导向。对于创新性较强但风险尚不确定的新技术、新模式等,南京、杭州条例草案提出在限定范围内开展试点验证,将地方“沙盒监管”的实践上升为法规规定。

“人工智能应用迭代速度快,根据具体的应用场景、智能化等级及事前风险评估来确定监管的级别和类型,同时强调动态调整,既守牢安全底线,又充分鼓励创新,为细化风险清单和监管标准预留空间。”杭州市发展改革委人工智能发展处处长董宇澜说。

文禹衡认为,针对同类风险防范与安全监管诉求,各地制定相近的应对方案、治理规则,说明已在一定程度上沉淀为地方立法共识,将我国以人为本、智能向善的AI治理理念转化为具体可操作的监管规定,体现包容审慎的务实态度,可为国家层面AI安全监管立法提供有益参考。

立足地方实际拓展监管规范。对于现行监管规章尚未及详细规范的一些焦点问题,本轮地方AI立法也作出积极回应,探索将其纳入法治轨道。

为确保AI始终处于人类控制之下,我国明确主张研发主体不断提高人工智能的可解释性、可预测性。近期业界披露的智能体训练过程中出现不可信执行行为,更加凸显落实这一主张的紧迫性。为加强AI算法的可解释性,江苏条例草案提出,在公共管理、医疗健康、金融、司法等重点领域,可能影响个人权益或者公共利益的算法决策,AI服务提供者应当依权利人要求提供易于理解的解释,承担算法可解释的法律责任。杭州条例草案则要求,算法提供者对算法的公平性和可解释性进行评估,并向使用者说明算法的基本原理和局限性。

对于AI对人的替代作用,南京、杭州的条例草案均作出专条规定,要求人力资源社会保障部门采取就业影响监测等综合应对措施;杭州条例草案还明确提出,防范以人工智能名义实施恶意裁员、规避劳动保障义务等行为,要求针对岗位调整和替代风险制定职业培育和再就业支持政策。

“把监测预警和劳动保障写入条文,意在传递技术进步不能以损害劳动者权益为代价的信号,探索形成监测、预警、培训、保障的全链条应对体系。”董宇澜表示。

受访业内人士认为,当前和未来一段时间,人工智能技术及其应用处于爆发式发展阶段,现有规范容易落后于技术创新和应用脚步,地方AI立法对焦点问题依法治理的有益尝试,为下一步构建更富前瞻性的AI安全监管法规制度起到探路作用。

丰富促进发展“工具箱”

算电和数据要素等有力供给,生产生活和行政司法等应用场景广泛构建,“人工智能+”产业融合政策持续完善……我国AI技术革命和产业变革深入发展的若干关键支撑,在本轮地方AI立法中被充分吸纳,促进AI发展的共通性、前瞻性制度规范建设进一步加强。

持续完善促进AI发展的通用制度。应用场景丰富是我国AI发展的重要优势之一。“2022年,科技部等六部委发文鼓励常态化发布人工智能场景清单,深圳在当年AI立法时就将其列为政府法定责任,并进一步规定推动人工智能技术在行政和司法领域深度应用。条例施行以来,深圳在AI辅助政务服务、城市治理、民生服务、司法审判上的应用成效明显。”深圳市人大计划预算委相关负责人介绍,在围绕该条例开展的执法检查中,深圳人大就一定程度上存在的重场景发布轻应用落地现象,进一步提出持续完善应用场景搭建、丰富“城市+AI”应用场景创新的建议,被深圳市随后出台的打造人工智能先锋城市系列政策吸收,推动AI立法与产业发展实践形成良性循环。

延续深圳、上海条例的做法,本轮地方AI立法普遍设专章强化场景赋能规定,多地明确县级以上政府应当定期发布场景应用清单,公开征集急需场景的AI解决方案,并鼓励机关、企事业单位发布清单。厦门条例草案提出,建立人工智能特派员制度,驻点提供场景策划、项目谋划、技术指导等服务;江苏条例草案提出,推动建立人工智能应用场景供需市场化运营机制,完善场景开放度评价与激励政策体系;杭州条例草案首设人工智能辅助公共决策条款,对公开算法辅助决策的基本逻辑和主要参数、建立决策全过程记录和可追溯机制作出规定,保障辅助决策的透明度和决策结果可审查、可解释。

设置要素保障专章,是本轮地方AI立法的共同选择,重点强化算电协同、开发供给优质公共数据集、加强耐心资本投入。在耐心资本配置上,南京、厦门、杭州条例草案针对AI企业全链条培育的需求,规定健全企业梯度培育的内容,并相应配套产业基金投资绩效评价和容错纠错机制,提出构建符合AI产业特点规律的国有资产监管制度。杭州条例草案设立人才培育专章,覆盖引育、评价、拔尖培养、复合型人才、职业培训、通识教育全链条。

在“人工智能+”行动深入开展的背景下,多地AI立法将实践中的成熟做法上升为法规要求。比如,苏州条例草案对推动人工智能在具身智能、自动驾驶、低空运营管理服务、生物医药、能源、材料和农业、服务业等领域的场景应用分别作出规定。

“本轮地方AI立法中,这些共通性规定体现出一定的立法共识,既是对地方经验的提炼总结,也可为更高层级立法提供实践参考。”文禹衡说。

为新模式新业态发展需求提供法治支撑。AI技术和产业发展日新月异,实践层面出现大量新情况,如何及时回应新模式新业态发展中不断涌现的法治需求,AI立法应有探索。本轮地方AI立法中,多地立足地方实践作出回应。

“开源,是汇聚全球开发者智慧、降低全行业创新门槛的关键路径。目前,开源生态建设尚缺乏明确法律规则,地方先行探索、积累经验有其必要。”董宇澜介绍,依托本地人工智能开源创新生态优势,杭州条例草案设置“开源开放”专章,首次提出开源成果保护与转化激励、开源合规与应用、开源国际交流等机制,着力构建开源生态建设的全链条制度体系。

作为衡量智能服务交易量核心指标的词元,以及以词元为基础计量单位调配资源的词元经济,在本轮地方AI立法中受到高度关注。广东、杭州条例草案专列词元经济条款,在促进生产、配置、使用等方面作出制度安排;南京条例草案鼓励分析以词元计费为基础的数据价值体系,为促进词元经济健康发展预留空间。

随着词元经济兴起,一人公司等新型创业主体涌现。江苏、苏州、南京、厦门、杭州等地条例草案均明确支持一人公司发展创新,南京、杭州条例草案进一步要求对一人公司的平等待遇提供保障,完善扶持新型创业主体的规则体系。

“本轮地方AI立法开始为一个尚未完全成型的经济形态构建基本规范体系,说明立法目标已从‘应用一项新技术’升级为‘培育一种新经济’。”文禹衡说,地方AI立法将智能经济作为独立经济形态加以系统塑造,为其搭建交易结算与流通基础设施,场景更精细、形式更灵活、导向更鲜明。

持续深化AI立法实践

随着立法进程的推进,本轮地方AI立法及其施行将为国家层面制定完善人工智能法律法规提供更加充分的经验积累,推动我国AI立法实践持续深化。

受访业内人士认为,在国家尚未出台人工智能综合性立法的背景下,地方立法立足自身实践,在法定框架内先行先试,在“促”与“管”两个基本方面都提供了比较成型的立法框架和丰富的立法内容,对目前以政府部门规章为代表的AI专项法规落地实施作出进一步细化规定,有效发挥地方立法的实施性、补充性、探索性功能,为国家层面人工智能健康发展综合性立法提供参考。

受访专家和地方立法工作者同时表示,目前的地方AI立法,主要是在网络安全法、个人信息保护法等相关法律,以及《人工智能拟人化互动服务管理暂行办法》等政府部门规章的框架下,就地方AI发展与安全的重要问题作出规范。对于涉及AI主体责任、公民权利、跨区域治理和国际规则构建等重大事项,仍需加快国家层面法律制度体系构建步伐。

一是明确人工智能的法律地位与责任归属。受访人士建议,首先明确人工智能不具有独立法律人格、主体责任由人承担,再具体区分服务提供者、应用部署者和使用者的责任,解决实践中已经出现的AI致人受损的责任归属问题。

二是明晰人工智能训练数据和生成数据的知识产权规则。董宇涵表示,数据权属、授权方式和流通机制影响着AI企业研发的实际使用,建议从国家层面划定训练数据合理使用的边界,明确生成内容能否受著作权保护、权利归于何人,明确算法与模型成果的权属等问题,进一步推动人工智能健康发展。

三是强化监管标准、要素保障的跨行政区域协同。文禹衡建议,确立分级分类监管的统一国家标准,避免同一模型在不同地方面对不同规定;规范认定不同主体开展科技伦理审查的法律效力;明晰算电协同、“东数西算”、收益分配等规定,为算力保障提供规则依据。

四是加强AI涉外法规支撑。在各国积极推进AI立法、参与国际规则和标准博弈的背景下,跨境人工智能服务、出口管制应对、数据跨境管理、海外维权等AI发展的涉外法治需求日益迫切。在地方立法加强AI国际合作的企业协同、强化服务支撑的基础上,建议在国家层面人工智能法律法规制定完善过程中加强涉外规范建设,支撑我国更加积极有效参与AI国际规则制定。

刊于《瞭望》2026年第42期

加载中...