博鳌亚洲论坛2025年年会举行

转自：千龙网

原标题：博鳌亚洲论坛2025年年会举行 “AI：如何做到应用与治理的平衡推进？”分论坛

AI应用与治理如何平衡　专家共话边界      

Deep Seek的横空出世，吸引了全球的目光聚焦于中国。随着AI技术的“狂飙式”发展，与之相伴的安全问题也引起市场广泛担忧。3月26日，一场关乎AI未来的全球对话，在博鳌亚洲论坛的现场激烈交锋。

针对通过制定标准能否解决人工智能的安全性问题，与会嘉宾给出了不同的见解，vivo首席安全官鲁京辉表示，安全性问题不能简单地通过制定法律或规则来解决，而是需要形成共识，但光有共识还不够，因为这还涉及地缘政治、全球化等问题。

中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅也表达了类似的观点。他认为，由于很多安全和风险问题是不可预知的，对于不可预知的部分我们需要一直保持警惕。

中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤则认为，从可控性和可信度方面，技术是可以解决信息安全的。“对于风险，我们需要定义一些红线和边界，因为技术不断发展，有了边界之后我们是可以解决的，如果完全没有边界，只谈一些大的原则，谈一些具体方案是比较困难的。”　

3月25日，博鳌亚洲论坛国际会议中心外景。　新华社记者　杨冠宇　摄

中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤：

Deep Seek是近两年来人工智能领域最大的创新

“今年以前，我们没有想到会发生这么大的变化，AI已经走向AI Agent（智能体）阶段。”张亚勤坦言，DeepSeek是近两年来人工智能领域最大的、系统性、规模性的创新，也是中国对全球的重要贡献。

张亚勤表示，AI已从信息智能走向无人驾驶、机器人等物理智能，也走向人脑接口、生物体大模型等生物智能。他认为，无人驾驶是具身智能最大的应用，也是第一个能够真正落地的方向，而人形机器人还需要更长时间。

谈及AI Agent广泛应用后的风险时，张亚勤指出，相关安全风险至少要增加一倍。智能体是很好的技术，能够自我规划、学习、试错并达到目的，是非常好的工具，但在其运行过程中，中间路径不可控。“虽然智能算法并非完全的黑盒子，但很多运行机理我们并不清楚。”

张亚勤表示，风险主要表现为两大方面，一种是可控风险，一种是被坏人所利用的风险。“另外，我们用智能体的时候需要设置一些红线，比如智能体不能自我复制。确实能力越大，带来的风险越高，特别是AI从信息智能到物理智能再到生物智能，风险会增加很多倍。”

中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅：

人工智能的发展和安全不是相互掣肘的关系

伴随着人工智能的发展，业内对其创新与治理的态度经历了显著转变。在去年的博鳌亚洲论坛上，业内更多聚焦人工智能的发展前景及趋势，今年论坛将目光瞄准了更深层次的问题，人工智能的应用与治理。

“去年全世界的科学家对于如何构建安全护栏是不知道答案的。彼时，多位全球学者自愿签署叫停人工智能6个月的发展倡议。但是经过了半年多一年的探索，我们已经有了初步答案，人工智能的发展应用和安全之间的关系不是相互掣肘的关系。”曾毅表示。

曾毅认为，人工智能、大模型能力的提高并不代表安全能力就好。他表示，现在很多人工智能大模型，包括国内的人工智能大模型，在认知问题求解能力上与GPT系列在同一水平上，但在伦理框架上还有提升空间。

“今年伦理安全应该作为人工智能大模型发展的基因，应该作为第一性原理，不可删除，不可违背，同时做到稳健发展。”曾毅表示。

“不要让人工智能完全代替人的决策，一定要让决策权在人类手中，这是当代人工智能应用时我们必须注意的问题。”曾毅强调。

中国社会科学院大学教授、国务院原副秘书长江小涓：

过去多年A I治理方面的进展有限

“前面两位科学家都比较乐观地表达了人工智能由于技术的发展，它的安全问题可能会有比较好的解决，我一方面同意这个判断，但是另一方面我认为技术发展会带来新的问题。”中国社会科学院大学教授、国务院原副秘书长江小涓表示。

江小涓表示，过去多年AI治理方面的进展有限。“从十年前阿西洛马人工智能原则提出一直到现在，这个原则已经讨论十年了，一个月前巴黎AI峰会依旧是继承了过去喊的这些原则。这些原则落地非常有限，如何落地、如何实践是最大的挑战。”

从经济学家角度来看，江小涓表示，技术是不是可以接受，主要关注两个标准，第一，能不能带来生产力的提高，使其创造更多的财富。第二，（技术）发展的结果能不能被比较公平地分享。“从这两个原则来讲，AI的发展肯定是提高劳动生产率了，但第二个问题是不是能够比较好地被社会所有成员分享，从经济学角度上体现为就业是不是充分？分配是不是公平？如果这两个问题不能解决的话，我们有什么替代政策？”

江小涓认为，（AI对）就业的冲击必定会出现。“我们应该有新的社会保障政策来执行它，而不是一再重复那些不能落地的原则。”

郭树清在博鳌亚洲论坛谈养老保险体系

应注重多支柱协同避免过于依赖单一渠道

3月25日-28日，博鳌亚洲论坛2025年年会在海南召开。财政经济委员会副主任委员、原中国银保监会主席郭树清在分论坛“人口老龄化与养老金改革”上表示，中国经过四十多年的改革探索，已建立起世界上规模最大的养老保险体系，覆盖了近11亿人，保障较为有力，富有中国特色，能够促进社会发展，并且体系还在不断完善中。

郭树清表示，中国养老保险体系可包括五大支柱。第一支柱是基本养老保险。第二支柱是企业年金和职业年金，目前覆盖了七千多万人，总额超过5.7万亿元。第三支柱是商业性养老金融产品，近年来发展迅速，总量已超8万亿元。接下来，中国还应将医养结合纳入养老保险的重要组成部分，作为“第四支柱”。“老年人一个是要有饭吃，再一个是身体好，还要精神愉快，没有病或者病比较少、比较小是最重要的。”

他认为，中国社会的个人和家庭财富也是居民养老保障的重要来源，可被视为“第五支柱”。

“养老保险体系应注重多支柱协同，避免过于依赖单一渠道。”郭树清指出，当前第一支柱养老保险处于绝对主体地位，占领取养老金的90%。随着人口老龄化持续加深，第一支柱提供的养老金替代率可能逐步下降至30%—40%，明显低于国际劳工组织提出的最低替代率55%。未来需要更多发挥第二支柱和第三支柱的补充作用。

就第三支柱的发展而言，郭树清表示，目前，个人养老金和商业养老金等金融产品已从部分地方试点向全国推开，但存在开户数量多、实缴户数少和缴存金额偏低等问题。而进一步发挥税收优惠政策的经济激励作用，是引导民众广泛参与第三支柱养老保险的关键，也是国际上的通行做法。