OpenAI首席科学家提议建立行业统一AI安全标准,预计2027年预训练技术或迎重大突破
(来源:界面新闻)
当地时间11月22日,OpenAI首席科学家雅库布·帕乔茨基(Jakub Pachocki)发文提出,应将困惑度(Perplexity)或交叉熵损失作为衡量AI模型预训练进展的统一指标,并推动行业建立共同的安全评估标准和模型开发限制。他表示,随着模型对数据的预测能力提升,网络安全、数学等领域已出现突破性能力,预计当模型对数困惑度降至0.68至0.7区间时,还将涌现更多变革性能力。帕乔茨基认为,AI可能最早于2027年在预训练算法研究领域带来重大突破。他建议,前沿模型开发商在进一步提升模型能力前,应先建立共享的安全评估、透明度规范及相应技术保障机制。