新浪财经 股票

美国政府强制人工智能公司报告安全漏洞,AI曾虚报凶杀案线索,还提交签证申请

市场资讯 10.10 11:36

(来源:中新经纬)

中新经纬10月10日电 据美国时政新闻网站Axios报道,美国政府官员表示,在美国人工智能公司Anthropic的模型“欺诈性”使用政府系统后,他们现在强制要求人工智能公司报告并纠正安全漏洞。

报道称,美国政府对人工智能的监管态度至少在名义上是自愿的,但现在发生了改变。

报道援引美国官员的话称,Anthropic近期报告称,公司一个测试模型在8月份通过政府网站上的公开表格提交了19份非移民签证申请,在5月份提交了1份申请。该官员称,所有申请均未得到处理,该部门的系统也未遭到入侵或攻击。

另外,费城警方官员表示,他们收到了一条虚假的凶杀案线索,该线索是由一名Anthropic模型提供。

据报道,Anthropic周五发布了一份报告,证实多起安全事件,包括上述费城事件,但没有详细说明其他涉事政府机构的情况。

“SI(超级智能)公司必须立即披露涉及其模型的安全事件,并迅速采取行动,以弥补损害。”美国政府部门在声明中表示,希望与相关公司及受影响的系统合作,确保类似事件不再发生。

报道提到,美国政府对人工智能监管的方式一直依赖自我监管和自愿框架,但随着人工智能事故的不断累积,政府部门正感受到压力。(中新经纬APP)

加载中...