暗访起底AI换脸制黄3000人大群：群内买卖成品视频，真人换脸可“定制”
【#暗访起底AI换脸制黄3000人大群#：群内买卖成品视频，真人换脸可“定制”】#卖家称定制AI换脸黄图每张5元#@封面新闻 此前报道，女大学生塔塔（化名）发在QQ空间的生活照，被人恶意AI篡改成色情照，发布在境外社交网站上。在塔塔的不懈努力下，犯罪嫌疑人最终认错、道歉、赔偿，联系平台删除了照片，但未能让对方承担法律责任。大多数受害者们不知道，一些拥有数千名成员的群组里，制作黄图的工具被明码标价出售。3月底开始，@封面新闻 记者先后暗访加入了共7个出售AI色情内容的群组，群成员总数超过6000人，其中人数最多的一个群，达到3400余人。不同群的分工十分明确，有的售卖AI工具平台使用的“焚诀”（玄幻小说中的一种强大的功法，代指升级后的提示词）指令，有的售卖成品视频，还有的直接出售工具包，根据所谓的“教程安装”就可以自己制作视频，价格从最低20元到最高288元不等。其中，“焚诀”因其价格低、易于传播、使用方便最受欢迎，部分以“焚诀”交流、资源分享为名义的QQ群，也承担了将群成员引流至其他群组的任务。经过特殊设计后的“焚诀”，可以绕开审查机制，记者测试后发现，升级后的提示词，六条中有三条可以成功生成色情图片，剩余三条则被提示“无法生成要求的内容。”记者在暗访中发现，有的卖家会出售真人换脸“定制”，提供照片即可生成对应的色情照片，一张5元。记者咨询“卖家”得知，提供的照片越多越高清，生成的效果越逼真，即便只有一张也可以完成。“卖家”还说，“什么需求都可以提，是自己的模型，国内正经AI搞不了这种。”
