转自：中国反邪教
今天有事请大家帮忙
婵妹就想着帮助妈妈
让家里的生活过得更好一点
同时把老家的土鸡蛋
分享给粉丝们尝尝……”
在短视频平台
充斥着多个利用AI仿冒
奥运冠军全红婵声音
带货土鸡蛋的视频
其中一个
视频点赞量高达1.1万
评论区显示
大量粉丝误以为
这就是全红婵本人
纷纷下单购买链接中的鸡蛋
该商品链接显示已售出4.7万件
今年4月，全红婵家人
曾向媒体证实
全红婵并未给相关农产品
代言或授权
除全红婵外
奥运冠军孙颖莎和王楚钦
也遭遇了同样的仿冒
在这看似匪夷所思的操作背后
其实隐藏着另一个灰色产业链
据网络安全专家潘季明介绍，通过仿冒名人进行直播，不仅可以诱骗粉丝打赏获利，还可将一个小白账号迅速打造成上万粉丝的账号，从而为后续牟利来铺路。
记者调查发现
配音演员被AI克隆侵权的案例
同样频繁发生
AI克隆声音
是如何实现以假乱真的？
又是谁
在为“盗取声音”而推波助澜？
网络安全专家潘季明介绍，基于开源的语音大模型，只需一段清晰的语音样本，任何人的声音都可能在极短时间内被克隆，并能被操纵说出攻击者设定的任意内容。
潘季明表示，除了侵犯声音权等合法权益，AI克隆声音目前最大的隐患是被诈骗分子利用，一旦与AI换脸等技术结合，生成高度逼真的“数字人”实施诈骗，危害将非常严重。潘季明建议，目前相关的技术要从源头进行相应限制，在开源过程中需对代码的使用时长、应用场景等做具体限制。
从“一听就假”到“真假难辨”
AI克隆技术的滥用
不仅严重侵犯了当事者的权益
而且还涉嫌违法违规
据法律专家介绍
我国民法典将人格权独立成编
首次以立法形式
将保护“声音”写入其中
在第1023条中明确
对自然人声音的保护
参照适用肖像权保护的有关规定
针对目前网络上
AI克隆声音的相关内容
被大量传播
平台是否也应承担相应责任？
此类乱象该如何治理？
专家建议，针对滥用AI克隆声音的乱象，平台层面要切实履行监管责任，建立健全对AI声音的审核和侵权举报机制，及时发现和拦截侵权、虚假、违法等不良内容。
今年3月，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，将于2025年9月1日起施行，其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。
另外，中央网信办近日在全国范围内部署开展“清朗·整治AI技术滥用”专项行动，将强化AI技术源头治理，清理整治违规AI应用程序，推动网站平台提升检测鉴伪能力等。
