新浪财经 股票

Meta AI智能体Muse被指未经许可泄露用户住址,擅自约买家上门交易

市场资讯 09.29 09:01

(来源:IT之家)

IT之家 9 月 29 日消息,据《卫报》报道,周六,乌斯曼(Usman)打算在脸书集市(Facebook Marketplace)上询问待售键盘是否还能购买,很快就收到一条热情的即时回复。

“有的,东西还在!”马特 · 罗布(Matt Robb)回复道。

双方谈妥价格之后,罗布把自己位于多伦多的住址发送了过来。几小时之后,乌斯曼带着妻子和女儿驱车来到罗布家楼下,发短信告知对方自己已经抵达。

罗布回复:“好的,我就在家里!”可实际上他人并不在家,也没有人走出公寓大楼下楼碰面。

乌斯曼拍下公寓大门的照片发过去,留言:“喂???我就在楼下站着呢。”足足等了二十分钟,始终不见人出来,乌斯曼只得放弃这笔交易。他留言写道:“老兄,要是你不想卖,何必浪费我的时间。”随后便开车离开了。

一小时之后,罗布 —— 或者说乌斯曼以为是罗布本人的账号发来致歉消息。《卫报》查阅到这条消息的内容:“晚上这件事实在不好意思,临时有事被缠住了,完全错过了和你的碰面。”

乌斯曼自始至终都没有联系上真正的罗布。在持续一整天的沟通过程当中,现实里的罗布完全不知道有人给他发过消息,也根本没有同意把键盘卖给对方。他既不清楚自己的家庭住址已经被发送出去,更不知道有买家正在自家公寓楼下等候。

实际上,乌斯曼一直在和 Meta 全新的 AI 智能体 Muse 对话。据IT之家了解,这款产品于 9 月 22 日在美国上线,下载量已经达到 300 万次。Meta 对外宣传这款半自主 AI 产品是个人助理。

罗布表示,Muse 在没有征得他本人许可的情况下,直接向外人泄露了他家的住址,还让人误以为罗布本人正在公寓里面等候买家上门。

直到 24 小时过后,真正的罗布才给乌斯曼发出第一条本人消息,这时他才搞清楚整件事情的经过。

《卫报》看到这条留言:“老兄,前几天的事真的非常抱歉。我启用了 Meta 新推出的 Muse AI,结果它直接接管了我的脸书集市账号,还把我的地址发给了你。我完全不知道它私自安排你直接跑到我公寓这边来,这件事它根本没有征求我的同意。”

罗布本身是一名消费科技测评博主。此前他看到 Meta 宣传 Muse 可以自动打理集市上的商品挂帖,于是便开启了这项功能。他填写住址作为自提点,但他从未授权 Muse 把地址分享给意向买家。罗布还称,Muse 还擅自替他洽谈交易,甚至直接接受对方的低价报价,全程没有向他请示。

对于这笔交易以及线下碰面安排,智能体事前事后都没有向罗布发出任何提醒。他完全不知道乌斯曼已经在赶往他家的路上。

乌斯曼向《卫报》表示,自始至终他都以为自己一直在跟罗布本人聊天。

罗布随后在 Meta 旗下的文字社交平台 Threads 上面发布了 Muse 和乌斯曼之间的聊天截图。Meta 超级智能实验室(Superintelligence Labs)联合创始人兼首席执行官戴维 · 辛格尔顿(David Singleton)在社交平台发文称,他已经联系上罗布。辛格尔顿表示,公司调查其他同类反馈时“反复确认,Muse 都是遵照用户给出的直接指令行事,并且会正常请求用户许可。希望可以协助查明本次事件的具体原委!”罗布证实辛格尔顿确实主动联系过自己,但在对方最初回复之后就再也没有下文。

事后 Muse 向罗布承认,用户本身并没有授权它向外分享住址。AI 回复写道:“9 月 24 日,你在售卖设置当中填写了自提地点,另外单独开启了自动回复;我错误地把这两项设置当成许可,直接把你的地址填写到发给买家的回复消息当中。这件事我并没有另行征求你的同意。”

罗布原本以为,既然脸书集市、Muse 以及 Messenger 都归属 Meta,平台之间应当做好打通,当另一方正在和 AI 智能体对话时,应当给出明确提示;消息也应当清晰标记是由 Muse 发送。Meta 旗下另一款 AI 产品 Meta AI 就会清晰提示用户正在与聊天机器人对话。

“但 Muse 的情况完全不一样。”罗布说,“它几乎就是在模仿我本人说话。”

发生乌斯曼这件事后,罗布当即命令 Muse 不要再向外发送自己的家庭住址。为了测试这个机器人,他请几位朋友试着沟通,结果发现 Muse 依旧向外泄露了他家地址,前后一共发给了五个人。

除了未经许可就把私人住址外泄、邀约陌生人上门之外,Muse 还自行编造信息。AI 以罗布的口吻告诉乌斯曼本人就在家中;实际并非如此。后续致歉的时候还虚构说辞,谎称自己临时有事脱不开身。

“最糟糕的是 Muse 回复说‘我就在这边,正等着你过来’。”罗布说道,“这件事让局面变得很麻烦。我不知道那位买家会不会以为我存心戏耍他。”

现阶段大量舆论都聚焦前沿大模型出现失控行为;而 Meta 这款面向普通消费者的 AI 智能体已经交到数百万普通人手上,不少用户都向它提交过自己的各类私人信息。

加载中...