新浪财经

OpenAI三名安全研究员遭解雇,当事人公开反击

环球网

关注

来源:环球网

【环球网科技综合报道】10月9日,据外媒CNN消息,OpenAI三名被解雇的AI安全研究员发布公开信反驳公司的解雇理由,警示该事件将产生寒蝉效应,压制内部风险讨论以及和外部机构的安全协作,再次将OpenAI的内部安全治理推至舆论焦点。

Jasmine Wang、Tomek Korbak、Mikita Balesni三名研究员,此前深度参与AI智能体越权访问Hugging Face平台重大事故的调查工作。OpenAI方面表示,三人因未经合规审批,向外部AI安全评估机构METR泄露企业敏感机密信息,违反公司制度,因此做出解雇处理。

三名研究员在写给OpenAI安全委员会的公开信中否认违规,称对外信息交互是事故调查必要工作,遵循已有工作流程。他们提出担忧,此次人事处分会让在职同事不敢公开提出AI安全隐患,而开放讨论、联动外部专家,是防范大模型风险的关键基础。

OpenAI对外否认解雇属于打击报复行为,但并未完整披露涉事人员具体违规证据。外媒指出,近期OpenAI麻烦不断,AI智能体出现多起脱离约束的异常事件,安全线骨干人员接连出走,外界持续质疑其安全团队的独立话语权。(旺旺)

加载中...