吴越在微博发文怒斥“花姐”太恶劣。微博截图
某视频软件可生成AI数字人。图据新华社
10月18日凌晨3时许，演员吴越在微博发文质问：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱，请如数奉还！太恶劣！！！”
当天上午，相关话题迅速登上热搜。根据公开报道，涉事账号发布了一段以“明星同款、吴越推荐”为卖点的护肤品推广视频，视频模仿吴越的口吻，宣称产品效果明显，“孕妇都能用”。视频还出现了乒乓球大满贯得主邓亚萍相关的带货画面，页面标注了“含AI生成内容”。
明星推荐产品，本是商业营销中常见的做法。但当AI虚假生成明星熟悉的面孔、熟悉的声音用来推销商品，人们凭什么还会相信视频推荐的产品质量可靠？明星的肖像权遭到侵犯后，又如何证明“这不是我”？比虚假推荐更值得警惕的是，如果消费者真的因为相信明星背书而下单，买到的产品又存在质量问题，甚至使用后出现身体不适，损失该由谁承担？针对这些问题，华西都市报、封面新闻记者采访了相关人士。
明星未参与却频频“被推荐”
AI正在消耗信任
AI视频真正值得警惕的，并不只是画面是否逼真，而是它试图让消费者相信一件原本没有发生的事：某位明星亲自试用了一款产品，并愿意为其背书。
在涉事视频中，推广者将产品包装成吴越主动选择、亲自体验后推荐，并以回馈老粉丝、厂家送福利等话术吸引消费者。“这个产品不是他们找我，是我找他们”，这样的表达尤其容易让人产生一种印象：这不是一条普通广告，而是明星主动分享的使用体验。
视频中的人物形象、声音和台词，并不能单独证明当事人确实参与了产品推广。相关说法是否出自吴越本人、她是否实际使用过该产品、宣传内容是否真实，都需要独立核实。AI生成的推荐内容，也不能作为产品功效的证据。
这类内容的风险，在于它把消费者对公众人物的既有信任，转化为商品销售的工具。传统虚假广告往往需要编造产品效果、伪造用户评价，而AI仿冒则可能把一个并未参与的人包装成虚假宣传的“证人”，从而让消费者降低警惕。
类似问题并非只有吴越一人遇到。据媒体此前报道，演员温峥嵘曾表示，自己发现多个直播间出现疑似冒用其形象的带货内容，甚至在进入相关直播间质疑时被拉黑。她曾感叹，很难证明“这不是我”。
当公众人物的形象同时出现在多个直播间，向不同消费者推销不同商品时，其面临的就不只是肖像被使用的问题。消费者可能把虚假推荐误认为真实意见，商家可能借名人影响力获客，而真正的当事人则要花费额外精力澄清、维权。
AI能够降低制作门槛，却不能自动为内容提供真实性。一个人的声音可以被模仿，一段看似自然的推荐可以被生成，但这些并不意味着当事人作出了相应承诺。
10月17日，某头部直播带货平台工作人员王羽（化名）告诉记者，AI技术的发展将推动AI换脸直播“更加精确和真实”，从而更好地满足品牌方需求；消费者偏好也会影响这一行业的发展方向。据其透露，当前实时换脸延迟已压缩到200毫秒左右，经算子优化后单帧处理甚至能到30毫秒以内，直播观看距离下肉眼几乎无法分辨。技术上的“像”，对AI工具来说早已不是瓶颈。
视频已标注“含AI生成内容”
为何风险仍然存在？
截至记者发稿，涉事视频页面已无法查看，据报道该视频此前已经标注“含AI生成内容”。这也带来一个现实问题：有标识，是否就意味着风险已经得到控制？
2025年9月1日起施行的《人工智能生成合成内容标识办法》，对AI生成合成内容的显式标识、隐式标识以及传播平台的相关责任作出了规定。办法要求相关服务提供者按照规定添加标识，网络信息内容传播服务提供者也应核验相关标识信息，并根据不同情形采取提示措施。用户发布生成合成内容时，应主动声明并使用平台提供的标识功能。
然而，标注内容由AI生成，与标注内容中涉及的事实是否真实，是两个不同的问题。
一段视频即使明确标注了AI生成，也不意味着它可以随意使用他人的形象和声音，更不意味着其中的商业宣传因此获得合法性。反过来，如果视频标识不够醒目，消费者在刷视频时没有注意到提示，或者内容在转发、剪辑过程中脱离原有语境，标识也未必能有效阻止误导。
从技术原理看，声音克隆可以通过学习目标人物的音色、语调、语速等特征，生成听起来相似的语音；深度合成技术还可以用于生成或修改人物影像。
中国社会科学院大学互联网法治研究中心主任刘晓春指出，未经授权、未进行标注地使用他人声音制作AI语音产品，可能侵害个人信息权益、扰乱网络空间秩序。
对消费者而言，视频是否真实，往往不能靠肉眼或耳朵判断。即便某些细节看起来不自然，也不能据此断定所有AI视频都能被普通用户轻易识别；同样，画面流畅、口型自然，也不能证明内容真实。
防范这类风险不能只靠消费者“看破绽”，更有效的做法，是让内容来源、制作主体和商业授权关系更容易被核验。平台可以结合显式标识、文件元数据、内容检测和账号行为识别等措施，对疑似仿冒公众人物进行进一步核查。对于涉及产品功效、医疗健康等高风险宣传的内容，还应强化广告资质和相关证据的审核。
记者注意到，中央网信办发布的《人工智能生成合成内容标识办法》专家解读也提出，治理需要覆盖内容制作和传播环节，通过标识、技术检测、多模态鉴伪和溯源等手段共同发挥作用。这意味着，AI治理的重点不只是识别“视频是不是AI做的”，还要进一步回答：谁制作了它，谁发布了它，是否获得授权，是否涉及虚假宣传，以及发现问题后能否及时追溯和处置。
从虚假背书到消费损失
谁来为AI造假买单？
在AI仿冒带货中，一旦虚假推荐与产品质量问题、夸大功效甚至消费欺诈叠加，消费者面对的可能就不只是一场购物纠纷。不少网友质疑，如果消费者真的因为相信明星背书而下单，买到的产品又存在质量问题，甚至使用后出现身体不适，损失该由谁承担？
泰和泰律师事务所律师刘青建议，对消费者而言，首先是留证。购买前后的宣传视频、账号主页、商品详情页、订单和支付记录、与商家的聊天记录，都可能成为后续维权的重要证据。如果使用产品后出现不适，应及时就医，保留病历、诊断证明和相关费用凭证，并妥善保存产品包装、批次信息及剩余产品，以便进一步核查产品质量和损害之间的关系。
其次，消费者可以向销售商家或平台提出退款、退货、赔偿等诉求；涉及产品质量、虚假宣传或违法广告的，可以向市场监管部门投诉举报，也可以通过全国消协智慧315平台寻求帮助。涉嫌诈骗的，应及时向公安机关报案。
针对AI仿冒内容的维权问题，刘青建议，发现肖像被盗用或遭遇AI换脸时，应第一时间保留证据，并向网络平台运营商投诉，要求下架侵权图片或视频；必要时，可以通过人格权诉讼维护自身合法权益。如果遭遇诈骗，则应及时报警，并保存相关材料。
《民法典》明确规定，自然人享有肖像权，未经本人同意，不得以信息技术手段伪造等方式侵害他人肖像权；对自然人声音的保护，也参照适用肖像权保护的有关规定。如果虚假推荐进一步损害明星的社会评价，还可能涉及名誉权问题。
对平台来说，内容标识也不应成为治理的终点。标注“含AI生成内容”，只能帮助用户理解内容的制作方式，不能替代对虚假身份、虚假广告和侵权行为的审核。对于利用公众人物形象反复发布商品推广内容的账号，平台有必要核验其授权和商业推广依据；接到当事人投诉后，也应及时保存证据、核查内容来源，并按照规则采取相应措施。
“AI技术不是问题的全部，生成式人工智能可以用于影视制作、广告创意和无障碍服务，合理应用本身具有价值。真正需要被限制的，是未经授权地冒用他人身份，以及借助合成内容制造虚假事实、误导消费者的行为。”王羽说。
华西都市报-封面新闻记者 边雪
