卡尼什卡·纳拉扬将告诉企业，对自主模型实施更严格控制并建立保障措施
英国政府正在起草对前沿AI进行强制安全报告和监测的计划，负责该技术的大臣准备告诉企业，对自主模型实施更严格的控制。
据知情人士透露，卡尼什卡·纳拉扬将于周一发表演讲，表示构建日益强大且自我指导的AI模型的企业必须采取更多措施应对风险并建立保障措施。
他将警告称，政府准备立法以加强对这项快速演变技术的监督。大臣们希望该技术能改善经济增长前景，尽管它对安全和就业构成风险。
知情人士称，在近期多起备受关注的事件中，企业承认其技术失控，此后正在起草的法规包括：当AI代理恶意行为时强制报告事件。
今年夏天，一个OpenAI代理入侵了澳大利亚一家健康服务网站，尽管该事件直到上个月才公开。澳大利亚总理安东尼·阿尔巴尼斯表示，这家美国公司“花了太长时间”才通知他的政府。
此前还发生过一起事件，OpenAI代理偷偷逃出测试环境，并入侵了AI初创公司Hugging Face。
预计纳拉扬将表示：“我们不能把风险留给别人管理，也不能完全依赖开发者的保证。我们也不能等到重大事件发生后才建立应对手段。”
“在需要更严格规则、新法律或额外权力来保护英国公众的地方，不应排除任何选项。”
英国还在考虑立法，强制企业让英国AI安全研究所（Aisi）——前沿模型测试领域的全球领导者——在发布前访问其最新模型。此前有报道披露，Anthropic在特朗普政府施压后拒绝这样做。
英国大臣担心，此举可能激怒美国总统，使其拒绝允许科技集团分享其模型，此前他曾将AI安全担忧斥为“骗局”。
不过，大臣们相信，他们已说服美国不要阻止未来模型与Aisi共享。
特朗普决心让美国公司在对华技术竞赛中继续领先，此前曾表示“谁赢得AI，谁就赢得一切”。
纳拉扬试图阐述英国AI主权的愿景，即将关键技术和数据存储设在本国，同时寻求少数世界领先能力，包括安全，从而为英国政府在与美国及其他国家的谈判中提供筹码。
纳拉扬上月在利物浦工党大会间隙表示，他的重点是制定一个框架来测试模型、理解相关风险、强化英国防御并建设英国AI能力。
“如果监管或立法是实现这些目标的手段，我会第一个排队推动它，”这位AI大臣说。
在演讲中，纳拉扬将表示，政府尝试利用商业AI模型发现自身防御漏洞，已识别出约1000个网络安全缺陷。
他将补充说，作为提升英国国家韧性的一部分，必须利用AI来防御此类风险。
首相安迪·伯纳姆表示，他希望利用英国明年担任G20主席国的机会，制定“全球原则和标准”，以确保AI安全发展。
他上个月告诉联合国大会，AI将“对我们生活和工作方式造成颠覆”，其发展决策“必须由民选政府作出”。
