人工智能技术迅速发展，随之而来是AI换脸技术滥用问题也日益突出，此前有多位名人肖像频遭盗用，成为主要受害群体。
谈及如何应对AI虚假换脸，全国政协委员、香港著名演员甄子丹4日下午表示，诈骗必须要报警，各种违法的东西都可以去投诉报警。
全国政协委员靳东4日也回应了AI换脸乱象，他表示AI换脸技术不只是用在短剧，很多人也因为AI换脸遭遇网络诈骗。靳东称AI正从多方面影响影视创作，自己也正在学习AI，不论未来AI对行业产生何种效果，都得主动去学习，去掌握。
多位名人被AI假冒
利用AI假冒名人来带货等的现象已屡见不鲜。
今年2月26日，演员王劲松曾发文称自己的形象被AI盗用生成视频。他表示，视频、声音、口型完全看不出来真假。
2025年6月，北京市海淀区市场监管局查处了某公司利用AI技术冒用央视知名主持人名义和形象的虚假广告案。通报称，有消费者举报，北京某公司通过视频账号宣传所销售的“深海多烯鱼油”能够治疗多种疾病，涉嫌虚假宣传。在宣传的直播中还出现了央视主持人李梓萌的形象。调查结果显示，该公司销售的深海多烯鱼油产品实际执行标准为糖果，属于普通食品，不具备疾病治疗功能。另一方面，经鉴定，视频中的主持人形象完全是利用AI技术伪造生成。该公司违反了《中华人民共和国广告法》相关规定，已接受行政处罚。
去年4月，演员张馨予发布微博称，发现有品牌用AI复制声音的方式，未经授权剪辑投放减肥广告，伪造出她为某款减肥产品代言的假象。
同年8月，还有博主利用AI克隆奥运冠军全红婵的声音推销土鸡蛋。孙颖莎、王楚钦同样遭遇了声音被“克隆”后直播带货的境况。
还有商家伪造刘涛、张柏芝、舒淇等多位明星的AI形象，站台某品牌面膜，制造“众星捧场”的虚假营销场面。
利用AI换脸、声音克隆假冒公众人物牟利
一批账号被处置
就在春节假期前夕，网信部门曾集中通报一批网络账号被处置的消息。
通报中提到：微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。
3月2日，微信珊瑚安全发布公告：近期，微信平台发现部分违规账号利用AI技术仿冒名人，通过伪造其形象、声音进行违规引流或虚假宣传。此类行为不仅严重侵害当事人合法权益，也易误导和欺骗广大用户。为进一步维护网络空间秩序，保护用户与公众人物合法权益，平台结合用户举报、日常巡查及技术识别，已第一时间对相关违规内容及账号进行从严处置。近期，微信平台累计处置此类仿冒违规内容1.3万余条，处置违规账号1200余个。典型案例如下：
全国人大代表黄勇、李世亮、丁雪梅谈“AI换脸”
法治划清AI红线 共治守好“脸面安全”
“加强技术源头管控是AI换脸治理的重要抓手。”作为长期深耕大数据信息技术领域的企业家，全国人大代表、贵州图智信息技术有限公司董事长黄勇对AI技术应用与风险治理有着深刻体会。
黄勇建议，相关部门要加快出台配套法律法规与标准规范，将时空信息作为图像、影像及视频的必填标识数据，严格禁止人脸数据的非法采集与滥用，从技术源头上筑牢安全防线。同时，依托制度规定与技术手段，强制要求AI换脸等深度合成工具嵌入时空信息标识码，并通过区块链技术完成信息存证，实现深度合成内容可核验、可追溯、可追责，全面提升内容治理能力。
全国人大代表、四川省律师协会会长李世亮则关注法律规则的细化。他认为，现有法律框架虽已涵盖人格权、著作权、个人信息保护等内容，但从目前司法实践来看，相关案件法律适用不统一、证据认定难、责任链条不清等问题仍然存在。李世亮呼吁最高人民法院尽快出台相关司法解释，结合典型案例，细化AI换脸侵权的认定标准、平台责任、精神损害赔偿等规则，让法律适用更具可操作性。
谈及AI换脸侵权背后的“维权难”，全国人大代表、广东省江门市科恒实业股份有限公司锂电材料事业部主任研发工程师丁雪梅建议，推动各大平台建立AI侵权“一键投诉”功能。针对利用AI换脸造谣诽谤、伪造音视频侵害名誉、肖像等行为，平台可设立专门受理通道，让群众在面对技术侵权时，投诉有门、处置有力、权益有护。
AI换脸治理，从来不是单一环节的“独角戏”，而是需要司法、技术、社会协同发力的“大合唱”。
“人民法院应持续发挥审判职能，及时发布更新典型案例，以司法裁判引导市场主体规范使用AI换脸技术。”李世亮指出，立法和司法机关需紧跟技术迭代步伐，及时完善法律规则，填补制度空白。
黄勇强调，技术企业要履行主体责任，坚守科技向善的底线，主动落实数据安全和内容审核义务。网信、公安等部门则需加强联合监管，对利用AI换脸等人工智能技术实施的违法犯罪行为依法打击，对非法工具和平台进行常态化清理整治。
丁雪梅建议，应在各大短视频平台加大AI换脸造谣、诈骗、抹黑企业、敲诈勒索等典型案例的宣传力度，明晰法律后果，让群众直观认识到网络并非法外之地。与此同时，平台要在AI换脸功能入口显著标注法律风险提示，常态化普及AI伪造内容识别技巧，全面提升公众对虚假视频、虚假语音的辨别防范能力。
你可能关注的新闻
