新浪财经 股票

每经热评 | 算法推荐了假 “吴越”,技术中立不是平台挡箭牌

市场资讯 10.18 18:23

(来源:每日经济新闻)

每经评论员 易启江

10月18日凌晨,演员吴越发微博怒斥视频号“花姐美肤日记”利用AI(人工智能)克隆其形象与声音带货,并开启“评论精选”收割粉丝。该账号还碰瓷邓亚萍,同类视频文案、画面高度雷同。这起事件并非个案,全红婵、孙颖莎、王楚钦等体育名将也曾在各类视频平台遭遇AI仿冒带货。

相关涉事账号已被封禁清空,但乱象远未根治。骗子固然可恨,但更该追问:一条造假视频从生成、过审、推荐到挂车成交,闯过了平台多少道关口?

AI仿冒名人带货,算法精准推送给明星粉丝,甚至不乏劣质产品。手握分发大权的平台,能把假“吴越”们靠算法精准推给相关粉丝,把粉丝、消费者对公众人物的信任贴现,其早已从旁观者变成助攻者,就不能一边享受流量与佣金收益,一边拿技术中立当作免责挡箭牌。

在很大程度上,对于AI仿冒名人带货而言,算法不是中立的“水管”,而是造假的“共谋”。

未显著标注的AI合成内容,不得对外分发传播,《互联网信息服务算法推荐管理规定》等法规均作出约束。平台手握人脸识别、声纹比对等技术,完全能识别口型错位、声音违和的AI视频,却放任其上架带货,甚至算法助攻,难免让人怀疑是审核尺度向流量弯腰,成为利益共谋。AI工具由平台提供,流量由平台分配,交易佣金由平台结算,把责任推给技术中立,很难站得住脚。技术本身可以中立,但选择继续推荐的那只手,绝不能中立。

对于平台而言,审核关口必须前置,他们有责任核验明星、名人是否对带货的数字分身有“授权”。

普通商家常吐槽,自己用AI生成的视频审核处处受限、屡被限流,但造假账号却能堂而皇之过审上架并被推流,这不是正常的现象。

算法把名人的信用贴现给陌生人,即便用户看出是AI,也无法核实明星是否授权。

电子商务法等法律法规本就要求平台对入驻经营者核验身份等信息。把“出镜授权”纳入核验清单,不过是把原有义务补进新场景。最高人民法院《关于依法审理涉人工智能纠纷案件的意见》进一步明确:未经许可AI复刻他人形象用于商业推广,构成人格权侵权。平台理应把授权核验放在发布环节,先审资质再开放流量,而不是等到明星维权之后才仓促封号。

如果没有事前核验、事中狙击,这些账号即使今天被封,明天仍可以改头换面重出江湖。

而从监管逻辑上看,事后法律惩戒社会成本高,事前预防才是治本之策。

封号、删内容、下架商品,只是末端“擦污渍”。造假团伙早已跑通“评论精选—收割变现—账号封禁—换号重启”的标准化流程,单纯依靠司法追责,社会成本极高,粉丝维权要自证“被欺骗”,成本远高于平台改一条推荐策略。

消费者维权举证难,涉案账号主体虚化、资金跑分分流,大量受害者连追责对象都找不到。末端处置替代不了源头治理,与其把治理寄希望于消费者打官司、消耗司法资源,不如压实平台主体责任,让平台对“推荐了什么”负责,而非只对“删了什么”负责:该标识的不放过、无授权的不放行。

AI时代,平台既是技术红利的最大受益者,也必须当好网络内容的守门人。技术可以快步向前,但治理责任不能原地踏步。只有确立“推荐即责任”的原则,技术中立才不会继续成为不法行为的挡箭牌。算法可以计算人心,但不能算计人心。不然,明天被仿冒带货的,不一定是明星,也可能是你我都信得过的“熟人”。

加载中...