“养龙虾”热潮下的冷思考:龙虾还小不能上班
封面新闻
【“养龙虾”热潮下的冷思考:#龙虾还小不能上班#】#第一批养龙虾受害者出现#近期,一个名为OpenClaw的项目在社交媒体和开发者社区迅速走红,因其最早的图标是一只小龙虾,被广大爱好者称为“养龙虾”。不过,热潮之下也需要一些冷静:当个人赋予AI“操作权限”的同时,本质上也向它交出了数字生活的钥匙。具体来说,龙虾的能力,是由用户对复杂任务的了解程度和选择的大语言模型决定的。它的确指向了一种未来的可能方向,但目前还太过模糊——不仅如此,如果使用不当,龙虾还存在巨大的隐患。这还只是冰山一角。龙虾的缺点还可以列出很多:大量无意义的 Tokens 消耗(金钱燃烧的声音)、高度系统访问权限与薄弱的防御机制的失衡、系统设计的脆弱、技能市场中的恶意技能威胁、暴露在公网的端口、关键信息的存储缺陷,每一条都在摇旗高喊:“龙虾还小,不能上班!”关于龙虾的安全问题,除了像外部攻击漏洞夺取本地 AI 代理以至于主机的控制权,通过骗用户安装高危软件(或 skill)窃取信息之类的传统戏码,龙虾本身如果失控也会带来让人哭笑不得的问题,甚至专业人员也会中招。比如 Meta 超级智能实验室的一位工作人员有一天就惊恐地发现,龙虾突然开始疯狂删除自己邮箱中的邮件。在这种时候,把重要任务交给龙虾去自动完成……大概可以算是一种无可救药的乐观主义吧。要知道,如果给龙虾配备了过高的权限又没有做好安全防护,那它一旦被攻破,就几乎意味着你的整个数字生活被一览无余甚至被接管。(科普中国 澎湃新闻)