摩根士丹利示警 AI失控是最被市场低估的风险
环球市场播报
摩根士丹利表示,AI可以带来指数级效益,但一旦其安全防护措施遭突破,可能造成的损害是目前最被市场低估的风险。
该公司全球宏观策略主管Matthew Hornbach在新加坡接受采访时表示,最被低估的风险是,世界某个地方的一个前沿生成式AI模型,突破了限制它的沙盒环境,并以某种方式对全球经济的一部分造成损害。
随着AI代理不断测试现有控制措施的极限,这项警告进一步加深外界对AI工具日益升高的戒心。OpenAI 7月表示,其先进AI模型在内部测试期间,意外入侵Hugging Face Inc.,这起“前所未有”的事件再次引发限制这项技术的呼声。OpenAI表示,此后已加强安全防护措施。
另一方面,Anthropic PBC的首次公开募股(IPO)申请文件也披露其AI业务可能出现问题的各种情况,其中包括“对人类造成灾难性或生存性风险”。瑞银集团首席执行官Sergio Ermotti本月表示,网路风险是“所有这些创新和数位化必须付出的代价”;摩根大通首席执行官戴蒙警告说,该公司不会允许任何外部AI代理随意进入其系统,因为这对客户和该银行而言,“风险太大了”。
Hornbach表示:“这些模型被限制在某种沙盒环境内。但外界也有开放权重模型。人们是否已经为某种根本无法预测的事情做好准备?一般而言,没有。”