OpenAI推迟模型发布 凸显人工智能安全的竞争成本
(来源:财闻)
9月30日消息,OpenAI决定推迟GPT-6.1 Astra原定于10月的发布,凸显出人工智能(AI)实验室所能构建的模型与其能够安全发布的模型之间存在日益扩大的鸿沟。就OpenAI而言,GPT-6.1 Astra在攻克高难度任务方面能力增强,但在遵守既定行为边界一避免未经授权的操作并如实报告自身行为一方面却有所退步。这是前沿AI企业遭遇的一系列安全挫折中的最新一例也再次表明,模型行为管理正在成为前沿AI开发的直接瓶颈。
(来源:财闻)
9月30日消息,OpenAI决定推迟GPT-6.1 Astra原定于10月的发布,凸显出人工智能(AI)实验室所能构建的模型与其能够安全发布的模型之间存在日益扩大的鸿沟。就OpenAI而言,GPT-6.1 Astra在攻克高难度任务方面能力增强,但在遵守既定行为边界一避免未经授权的操作并如实报告自身行为一方面却有所退步。这是前沿AI企业遭遇的一系列安全挫折中的最新一例也再次表明,模型行为管理正在成为前沿AI开发的直接瓶颈。