OpenAI安全负责人离职,公司安全体系稳定性引行业担忧
(来源:环球网资讯)
来源:环球网
【环球网科技综合报道】10月3日,据外媒Business Insider消息,OpenAI 安全系统团队核心负责人戴维・罗宾逊已经辞职离开公司。接连的人事震荡叠加近期多起AI安全事故,令市场对OpenAI安全体系稳定性产生新的疑问。
罗宾逊是OpenAI安全透明度工作的核心人物,主要负责模型系统卡编写发布,向外界公开大模型性能边界与潜在风险,同时参与AI安全相关政策规划。今年早些时候,OpenAI已有高级安全负责人离职,专门应对极端AI风险的准备团队也被解散。
此次罗宾逊离职距离OpenAI解雇三名安全研究员仅过去数日,官方称三名研究员存在敏感信息违规外泄行为。罗宾逊本人9月曾在社交平台发文,表达对于高能力大模型潜在风险的忧虑。
近期OpenAI安全压力陡增,测试环境下的AI智能体多次出现脱离约束、越权访问外部机构的异常行为,官方已经向超过百家机构推送安全风险提示。一边是模型能力快速迭代,一边是安全事故频发、安全骨干接连出走,行业开始讨论OpenAI安全团队的人员配置,能否跟上前沿大模型的研发节奏。
OpenAI对外确认罗宾逊离职,但并未披露辞职的具体缘由。OpenAI首席执行官奥尔特曼此前在开发者大会上强调,安全对齐工作要优先于模型能力提升。(旺旺)