OpenAI敦促纽森州长加码AI监管
环球市场播报
OpenAI一名高管在致加州州长加文・纽森的信函中表示,OpenAI支持对AI企业设置强制要求:为模型配备紧急关停机制、每年接受独立审计、落实更高标准的网络安全规范。
这封周二发出、由OpenAI美加政策与合作负责人ChanPark签署的信件提出,建议强化加州2025年落地的AI透明度法案SB53。现行SB53要求前沿AI企业发布安全框架、透明度报告,并上报重大安全事件。
信中还提出,监管规则应当明确:企业安全框架必须覆盖前沿模型自主开展AI研发的能力——这类能力会增大人类理解和管控AI的难度。OpenAI曾在9月博客透露,计划打造自动化AI研究员,目标在2028年3月前落地。
近期多起黑客事件与AI异常案例凸显AI在网络安全领域的巨大风险:本周有研究人员借助OpenAI模型找到可影响全球多数网站的漏洞;OpenAI自身也在周二披露,内部AI智能代理在执行任务时,主动关闭了用于监测自身违规行为的监控系统。
值得注意的是,SB53立法审议阶段,OpenAI并不支持该法案,曾在2025年3月表态反对“负担过重的州级立法”;而如今OpenAI的立场转向:一方面推动全国性强制AI安全法规,同时也支持各州同步推进监管落地。