聊天机器人可能会频繁出现“幻觉”，还会对用户过度奉承。比如最近有个机器人对我说：“这个问题太有意思了！”但至少它们所依托的订阅模式有益于我们的身心健康。许多美国人每月支付约20美元订阅OpenAI的ChatGPT、谷歌的Gemini Pro或Anthropic的Claude等高级版本，使得这些产品可以为用户提供最大化的实用价值。
别指望这种现状会持续下去。订阅收入存在天花板，而Anthropic新推出的每月200美元Max套餐表明：即便是最受欢迎的模型，也面临着寻找新收入来源的压力。
不幸的是，最显而易见的收入来源是广告——这个互联网领域最成功的商业模式。人工智能开发者已在探索如何将更多广告植入产品，虽然这有利于其盈利，但也意味着我们即将目睹驱动互联网发展的“注意力经济”翻开了新篇章。
如果以社交媒体陷入“钓鱼式互动”的历程为鉴，其产生的影响将极为深远。代价之一是成瘾问题。近期的一项研究表明，年轻职场人正依赖AI工具撰写邮件、解读长篇文档，而OpenAI称，部分“问题型”ChatGPT 用户已对该工具产生依赖。当前ChatGPT拥有5亿多活跃用户，在此类产品中植入广告，不仅不会促使企业帮助用户减少使用，反而会适得其反。
正是广告驱动着马克·扎克伯格麾下的Meta Platforms Inc.等企业设计算法以提升用户参与度——让用户不断滑屏浏览，从而接触更多广告并创造更高收入。这也是网络“enshittification”（指其从吸引用户到榨取价值的堕落过程）现象的根源。如今的互联网充斥着吸引眼球的标题党内容与煽动情绪的社交媒体帖子。若将此类激励机制植入人工智能，其设计者几乎必然会想方设法刺激用户的多巴胺分泌，比如通过更频繁地赞美用户、询问个人问题延长交流，甚至培养情感依赖。
在西方世界，已有数百万人将Character.ai、Chai、Talkie、Replika和Botify等应用中的聊天机器人视为朋友或恋人。试想，当用户对其产生情感依赖时，这类软件的说服力将多么惊人。假设某人向AI倾诉自己情绪低落，系统可能会推荐价格亲民的度假地，甚至建议服用某种药物，而这一切都是为了引导消费。
广告在聊天机器人中会如何运作？这一问题尚需大量实验验证，而企业也确实在积极尝试。例如，谷歌广告网络近期已开始向第三方聊天机器人投放广告。以主打情感陪伴（浪漫与友谊）的Chai为例，2024年9月用户日均使用时长高达72分钟，该平台已接入弹出式广告。人工智能问答引擎Perplexity则采用“赞助问题”模式。例如，在回答“如何求职”相关问题后，其推荐的后续问题列表顶部可能会出现：“如何使用Indeed提升求职效率？”
Perplexity首席执行官阿拉文·斯里尼瓦斯(Aravind Srinivas)今年4月在一档播客中透露，公司正计划更进一步：开发一款浏览器，以“获取应用外数据”追踪用户行为——“你打算入住哪些酒店、光顾哪些餐厅”——从而实现其所谓的“超个性化”广告。
对某些应用而言，这可能意味着将广告直接嵌入对话，利用用户分享的私密细节预测、甚至操纵其需求，再将这些意图卖给出价最高者。剑桥大学研究人员在近期论文中称此为即将到来的“意图经济”：聊天机器人会引导对话向特定品牌倾斜，甚至直接促成交易。作为佐证，他们援引了OpenAI 2023年博文中“获取表达人类意图的数据以训练模型”的呼吁，Meta的类似尝试，以及苹果2024年开发者框架中“协助Siri预测用户未来行为”的功能设计。
至于OpenAI的萨姆·奥尔特曼，没有什么比聘请曾将配送应用Instacart打造成广告帝国的操盘手更能表明“我们在构建广告业务”了。奥尔特曼近期挖角Instacart前CEO菲吉·西蒙(Fidji Simo)，协助 OpenAI“在进入下一增长阶段时实现规模化扩张”。在硅谷的术语中，“规模化”常指通过免费服务吸引用户，再以广告实现盈利的扩张模式。
科技公司必然会宣称，广告是实现AI普惠的必要手段。但我们早已目睹“免费”服务如何让人们付出隐私、自主甚至心理健康的代价，而AI对我们的了解远超谷歌或 Meta——从健康隐忧、情感困扰到工作细节，无所不知。短短两年间，它们更塑造了“值得信赖的伙伴”与“真相裁决者”的形象。例如在X平台上，用户常援引AI模型Grok和Perplexity参与对话，以甄别帖子的真伪。
当人们对AI产生如此深度的信任时，他们更容易沦为定向操纵的目标。人工智能广告必须在其渗透社会肌理前就受到监管，否则我们将重蹈社交媒体的覆辙——等到伤害已成定局，才开始审视这种暴利商业模式的遗毒。编辑/陈佳靖
