治理摆拍,平台怎能既当运动员又当裁判员
(来源:澎湃新闻)
澎湃首席评论员 李勤余
AI“苦命男孩小海”收割老人事件才过去没多久,近日,央视又曝光了“流浪女小秀”的真相:
今年8月,有快手账号发布视频,一位状态异常的“流浪女”被“意外”发现,此后,这名“流浪女”成为博主持续发布视频的主角。经警方调查,视频中的郑某、刘某二人实为夫妻关系,为吸引流量,利用多个账号发布一系列“深山救助流浪女”的视频,并进行直播带货。目前,2人已经被行政拘留。
这些年,各种摆拍视频接连上演,通过恶意消费公众情感来牟取经济利益,把民生疾苦当作网络营销的工具,不光让广大网友非常反感,也正在不断消解公共议题本身的严肃性,已经成为当下不断扰乱网络舆论场的一个痼疾。人们很想问:对摆拍视频,就没什么办法了吗?
值得注意的是,“AI小海”卖惨带货事件引发媒体和舆论广泛关注后,抖音平台还专门发布通报,表示“经平台核查,相关人物系AI合成数字人,相关账号及内容已被依规处置”。不仅如此,从通报看,这事还被归入该平台“清朗·整治短视频虚假人设乱象”专项行动中的一环。
看上去,这份通报倒好像是向外界宣传的“成绩单”。但事实是,经过媒体曝光和舆论批评后,平台的治理行动才姗姗来迟。要知道,一批“小海”矩阵账号已经在抖音收割了不少中老年,甚至已经出现老人打算千里去探望AI虚拟人的极端案例。同样的,从8月到最近,“流浪女小秀”也已经在快手上传播了相当长的时间。
结合近年来的诸多同类型案例来看,很多平台总是先放着摆拍视频跑流量,闹出动静了再来救火,最后发个通报证明“自己在管”。
客观说,平台治理摆拍视频确实有难处。一是平台每天都有海量内容发布,审核的工作量可想而知;二是很多摆拍视频的账号前期只铺垫悲情故事,不露带货痕迹,等粉丝足够多之后再开始收割变现,这也给平台事前识别带来了难度。
但是,难识别,不等于没办法识别。就拿“苦命男孩小海”来说,有着统一的AI人脸、统一的悲情剧本,话术模板也高度雷同,都是定向喊“姨姨妈妈”,而且评论区大多数是中老年用户,这一堆高风险特征叠加在一起,难道拥有强大技术能力的平台真的看不见?
尤其具有讽刺意味的是,摆拍视频中的卖惨、悲情故事会因为互动量大被平台算法主动识别,从而得到进一步的推广。既然有这么先进的算法机制在,怎么一到有风险的内容,识别能力就失效了?
一边吃流量红利,一边等舆情来了再来救火,甚至还自夸治理的成果,这不是公众希望看到的局面,也不可能彻底遏制摆拍乱象。既然平台手握内容分发的权力,就不能把甄别风险的成本扔给舆论和媒体,等到骗局出圈再封号、发公告,用“依规处置”的话术来撇清责任。
当这些年同类摆拍、卖惨视频反复在平台出现,足以说明平台的前置审核和风控机制的效果确实有限。平台又是摆拍视频的推广者,又是内容审查的裁判员,就很难有动力去主动进行治理。显然,这样的平台生态是时候改变了。
本期编辑 周迹