微软必应错误显示黑神话客服电话,专业人士:这属于“大模型幻觉”
转自:九派新闻
微软必应错误显示黑神话客服电话,专业人士:这属于“大模型幻觉”
【#微软必应错误显示黑神话客服电话#,专业人士:这属于“大模型幻觉”】近日,在国产3A游戏大作《黑神话:悟空》上线引发全球关注的同时,一则AI因错误抓取信息导致个人信息泄露的事件,将微软必应推至台前。之所以会有员工手机号的泄露,来源于机锋网网站内部一篇已删除的新闻稿件,尽管该稿件全程没有任何相关号码露出,只是网站文章页面的底部标注了商务合作的联系电话,就被错误判定为《黑神话悟空》客服的官方电话。此外,还有两个错误的电话号码被标记为客服,其中包括第一财经版权部的联系电话。对此,一位人工智能方向的研究人员告诉九派财经,这是发生了“大模型幻觉”,当用户输入“黑神话悟空的客服电话”这句话,大模型会根据之前的训练内容,生成相关文本内容,然后根据这些信息再去检索。但是,大模型生成的内容是否贴切是一个概率事件,产出的内容很可能看似和搜索内容相关,实则毫不沾边。@九派新闻