方寸跃迁受邀为腾讯 Hy4 模型进行权重公开前第三方安全评估
初创AI安全公司方寸跃迁表示,近日,腾讯混元 Hy4 正式开源。作为独立第三方安全评估机构,方寸跃迁受邀在模型权重发布前对 Hy4 开展了安全评估,结果已收录于混元发布的 System Card(模型系统卡)。这也是国内前沿模型团队首次公开在发布前系统性地引入独立第三方安全评估。评估结果显示,与 Hy4 preview 相比,Hy4 在失控与有害操纵两类风险上的安全表现整体提升,在监督遵从、行为授权和诚实性等方面进步明显。同时,在部分更复杂的智能体场景中,模型仍有进一步提升的空间。