新浪财经

OpenAI董事:一年内发生AI灾难具备合理可能性

滚动播报 11.18 14:37

知名AI安全研究者、OpenAI控股实体董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客采访中,对人工智能的发展前景发出警示。他表示,未来人类完全失去对AI控制权的可能性正快速上升。克里斯蒂亚诺称:“目前存在合理可能性,未来六个月就可能发生一场灾难,造成大量人员死亡,或是出现政府被颠覆的局面。”克里斯蒂亚诺表示,上述事件是否发生,取决于AI技术迭代的速度。他还提出,受递归自我改进技术驱动,AI模型可以实现自我迭代升级,未来一年内发展到危险临界点的概率“相当高”。克里斯蒂亚诺在采访中着重强调,发言仅代表个人立场,并不代表OpenAI董事会观点。他表示过去数月模型能力进展迅猛,如今评估,未来一年发生AI接管人类局面的风险“更接近10%,而不是1%”。他称,如果各大企业不采取更多防护措施以缓释AI开发带来的风险,该风险预估数值还将“显著走高”。

加载中...