200平方米的公司凌晨空无一人，一排排的电脑、手机陈列其中，全是数字人在直播，仿佛一场没有人类的AI狂欢......
一年一度的618即将到来，对于近年兴起的数字人直播带货，平台正在收紧监管尺度。
澎湃新闻记者获悉，近日为了优化视频号橱窗生态，营造良好的交易环境，腾讯对《视频号橱窗达人“发布低质量内容”实施细则》进行修订，修订内容于今年6月7日-6月13日进行意见征集。
据最新的修订方案，“使用插件、AI等工具生成虚拟形象进行直播”“提供、售卖、教学或展示平台不提倡传播的内容：如讲解和售卖虚拟人代播软件”等涉及虚拟人/数字人直播，将被视频号明确列入低质量内容，并进行违规处理。
对于相关修订的原因，6月17日，视频号相关人士告诉澎湃新闻记者，使用数字人/虚拟人直播目前属于平台直播带货中的违规行为，如被平台发现，将依据相关规则进行处罚，包括不限于减少直播推荐、减少账号推荐、限制直播带货能力等。
该人士称，平台希望并鼓励真实的真人主播，能跟观众进行实时的互动。
尽管相关修订没有完全落地，但是对于数字人直播的态度如此“严厉”，视频号属于行业首家。
实际上，目前业内各大平台对于数字人的态度普遍比较积极。其中以京东最为鲜明，此前以京东创始人、董事局主席刘强东为形象的数字人“东哥”亮相京东直播间，曾引发热议。
当时，根据京东超市披露，采销东哥AI数字人上播30分钟，直播间观看人数破千万；仅40分钟内，直播间观看人数超过1300万，创造京东超市采销直播间开播以来，观看人数的最高峰；近1小时观看量超2000万，直播时段用户平均停留时长达到日常均值的5.6倍。在40分钟内，直播间整体订单量破10万。
京东CEO许冉更表态，刘强东数字人之后，数百位总裁数字人将在618活动期间在京东平台直播。
淘宝在去年就开始入局数字人直播。去年7月25日，六位不同打扮的AI主播“烈儿宝贝”和本人同台直播，这也是淘宝头部直播间首次尝试AI上岗开播。去年618期间，首家AI淘宝店“卢咪微Lumiwin”开播，AI数字人马斯氪上岗淘宝直播间，2个小时吸引超16万人次观看，由AI设计的T恤在TVB直播间上架、销出数百件。
快手相关负责人曾表示，快手研发的女娲数字人平台能支持2200个数字人同时直播24小时。
数字人带货无疑是个巨大市场。艾媒咨询数据显示，2023年中国数字人带动的产业市场规模和核心市场规模分别为3334.7亿元和205.2亿元，预计2025年分别达到6402.7亿元和480.6亿元。
尽管如此，从实际应用角度，多家头部直播间负责人告诉记者，正式投入数字人还需要谨慎，“直播间要能赚钱，靠的是人、货、场三者良好的经营。还有直播间品牌的积累，数字人只是工具。”
头部直播间“交个朋友”相关负责人告诉澎湃新闻记者，在他看来，目前数字人技术整体还非常初级，此前公司也尝试过用数字人直播，但是效果并不好，“数字人直播目前还是不太成熟，京东利用刘强东的数字人，也是利用刘强东的IP，实际上数字人主播距离正式商用可能还有3-5年的距离。”
电商平台梦饷科技CTO曹均涛告诉记者，目前数字主播在电商中的应用还在起步阶段，“以前的数字人对用户意图的理解不精准，很难和用户形成交流，但是在大模型出现后，未来肯定能形成顺畅的人机交互的。未来，大模型和数字直播结合起来之后，才能真正用数字人直播来替代真人直播。现在数字人直播只能和真人直播形成补充。”
也有不少公司利用数字人概念“割韭菜”，引发安全挑战。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈案件呈现出惊人的增长趋势，增长率高达3000%。
另一头部直播平台抖音对于数字人直播同样持谨慎态度。
3月27日，抖音安全中心公众号发布《抖音关于不当利用AI生成虚拟人物的治理公告》。公告提到，创作者、主播、用户、商家、广告主等在抖音应用生成式人工智能技术时，须遵循相应规范。
根据公告内容，此次抖音将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容，包括生成境外虚假人设，消费爱国心理、博取关注；生成俊男美女虚假形象，骗取互动，交友导流；生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。
公告还提到，发布者应对人工智能生成内容进行显著标识，虚拟人需在平台进行注册，虚拟人技术使用者需实名认证等。
早在去年5月，抖音曾在业内首发关于人工智能生成内容的平台规范。倡议中提及，发布者需对人工智能生成内容产生的相应后果负责。同时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。虚拟人也需在平台进行注册，虚拟人技术使用者需实名认证，使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。
