近日，一位网友向豆包预约江苏镇江一家鱼庄的就餐，豆包信誓旦旦回复：已占座已取号，还提供了签到码。结果网友到店后却发现没有预订信息，店员还称：“你找豆包预约那你找豆包啊”。对此，店铺工作人员表示，“豆包”为AI对话工具，其模拟输出预约成功，并不能同步至店铺的有效预订信息。豆包客服也称，平台暂不支持通过该应用进行实际餐厅预约。
这类问题并非AI刻意造假，而是统计类语言模型与生俱来的技术短板，其追求语句通顺连贯，核心服务是“哄”用户开心，并不具备自主辨别事实真伪的能力，也就容易出现一本正经编造不实信息的情况。用户如何避免被“坑”，或许是AI时代又一个值得思考的问题。
