公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可“手搓”“让自己满意的大尺度视频”；发布售卖各类AI生成擦边视频提示词的帖子，宣称只需复制到AI视频生成软件即可获得擦边视频；专门制作AI生成色情视频软件，甚至把境外大尺度涉黄AI聊天软件搬进国内……据央视财经报道，部分商家利用AI“擦边赛道”非法牟利，将AI“造黄”做成了产业链。
相较于利用AI造黄谣等个案，AI“造黄”产业链社会危害性更高。轻松生成的色情擦边视频不仅污染网络空间、败坏社会风气、可能给未成年人造成不当影响，还给每个人的隐私带来潜在风险。据报道，有AI生成色情视频软件号称“免下载，快速生成，图片、视频换脸”，通过一张图片就能生成全裸照片和色情视频。换成的是谁的脸？色情画面在网络空间传播，与生成视频面容相似者很可能因此面临生活苦恼。下载无人审核的境外软件，也可能带来病毒或信息安全隐患。
《生成式人工智能服务管理暂行办法》规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。制作AI生成色情视频软件等，显然不合规。商家刻意引导用户规避监管、开发灰色通道让国内用户下载境外涉黄AI聊天软件，表明对违规行为心知肚明。之所以敢穿梭在黄色和灰色之间，不仅因为涉黄内容有利可图，也因为AI相关管理尚未成熟，商家有空子可钻，违规成本较低。
用AI制作色情擦边的教程，居然可以在互联网平台公开兜售，可见互联网平台对此类内容警惕意识并不高；在AI应用里使用网售的提示词，真的能获得擦边视频，可见AI应用的“黄色防线”并不牢靠；App上架有一系列审核要求，AI生成色情视频的软件能在市场上露头，说明安全审核工作做得不到位；社交平台上评论区随处可见用户发送各种无限制词的AI聊天软件使用分享，以及软件的下载链接和邀请码，表明平台在内容管理上做得不够……或者没有审核或者审核不到位，各平台在AI色情内容管理上的滞后，反倒给个别商家的灰色通道敞开了大门，为AI黄色产业滋生提供了土壤。
这两年，网信办等部门不断加强整治AI技术滥用。今年4月10日公布的《人工智能拟人化互动服务管理暂行办法》，进一步明确了安全评估和算法备案的相关要求，还对未成年人和老年人使用拟人化互动服务作出了相关规定。AI“造黄”产业链的出现表明，监管部门以及各平台还需不断增强对AI技术滥用的警惕性，提升监测能力、审核能力和应对能力，通过日益完善的管理制度，让AI黄色产业的灰色通道走不通。
来源：北京晚报
