新浪财经 美股

OpenAI董事称:未来一年内发生AI灾难存在 “不小可能性”

环球市场播报

关注

保罗・克里斯蒂亚诺于 9 月加入 OpenAI 基金会董事会。他表示,近几个月 AI 技术飞速迭代,致使他对 AI 风险的判断进一步趋于悲观。

知名 AI 安全研究者、OpenAI 管控机构董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客访谈中对 AI 发展前景发出警示。他称,人类在明年彻底失去对人工智能的掌控的概率正在快速上升。

这档播客节目主持人是德瓦克什・帕特尔,节目受众达数百万人,其中包含大量科技行业从业者。克里斯蒂亚诺在周一播出的访谈中表示:“以当下情况判断,存在不小的概率:未来六个月内,就会出现一场造成大量人员死亡,或是颠覆现有政府秩序的灾难。”

克里斯蒂亚诺表示,上述灾难是否会成真,取决于 AI 技术后续的迭代速度。他还提到,借助递归自我迭代技术,AI 模型可以实现自我优化,因此他认为在未来一年,AI 有可能发展至危险临界点,该概率处于 “相当高的水平”。

克里斯蒂亚诺任职于伯克利的非营利机构对齐研究中心,该机构主攻 AI 对齐研究。他长期深耕 AI 研究,一直公开警示 AI 安全隐患,并于今年 9 月进入掌控 OpenAI 主体的 OpenAI 基金会董事会。他在访谈中着重说明,以上观点仅代表个人立场,并不代表 OpenAI 董事会。

他刚加入董事会时曾估算:未来一年,人类失去对 AI 的控制并引发灾难的风险约为 4%。

而在周一的访谈中他谈到,过去数月模型能力进步幅度巨大,如今他评估,未来一年发生 AI 失控接管事件的风险,“已经从 1% 上升至接近 10%”。他补充,如果各大企业不采取更多防范措施、遏制 AI 开发带来的风险,该风险估值还将 “大幅走高”。

加载中...