新浪财经

AI换脸黑产:75元明星换脸情色视频 闲鱼成传播通道

财经网

关注

原标题:AI换脸成就黑产,75元40位明星换脸情色视频,闲鱼成传播通道

ZAO的大火让AI换脸技术再次出现在公众面前,AI换脸技术引发了国内的热议。AI换脸技术其实早已出现,换脸技术在国外被称为“deepfakes”,是一种逼真交换面孔的新视频技术。

这种技术,在影视剧制作中早已有之,例如《速度与激情7》里为了让保罗﹒沃克回归就用了视频换脸技术。但是AI换脸出现的时间却并不长,2017年12月一位叫Deepfakes的用户把情色电影里的女主角换成了好莱坞明星盖尔·加朵,这也是人们第一次公开见识到AI换脸这项技术。

虽然ZAO让AI换脸技术火了一把,但随着财经网的了解,AI换脸技术目前已经形成了完整的黑色产业链。近日,财经网在闲鱼上搜索换脸关键词,出现了换脸合集等相关商户,通过聊天,对方表示按照图片的信息来购买,图片显示,需要加微信或者QQ群才能购买相关视频。

财经网在进入QQ群之后,与管理员交谈中,管理员给出一份套餐价格,上面显示,“40多位女明星上百部AI换脸网盘在线打包观看,其价格为75元;此外,还有价格99元的套餐。”这位管理员表示,在自己的QQ空间还有试看的AI换脸相关淫秽色情视频,满意后再付款。

此外,经财经网调查发现,AI换脸黑产从下游的成品情色视频、中游定制视频到上游软件及交成都有提供,有的卖家甚至提供全产业链产品和售后服务。可见,AI换脸给色情产业带来了春天。

从业十余年知识产权维权服务的北京观韬中茂律师事务所高级合伙人李洪江律师认为:正如制作和销售菜刀本身并不违法,但是利用菜刀杀人显然是要承担法律责任的;随着AI技术不断演进,换脸技术本身并不违法,但是利用AI换脸技术侵犯他人的肖像权将是需要承担法律责任的,当然枪支本身虽然不违法,但是制作和贩卖枪支将不被允许,因此,如何界定AI换脸技术将会考研法律人的智慧。

对明星而言,部分AI换脸技术用户直接侵犯了明星的肖像权,如果用于制作淫秽物品并造成其他危害的,还有可能构成侮辱罪,因此对此行为应该进行规制

对于购买这种AI换脸视频人来说,刑法第三百六十三条规定了”制作、复制、出版、贩卖、传播淫秽物品罪”,即以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,需要承担刑事责任,至于购买者如果不是以营利为目的进行传播应该不够罪。

李洪江进一步表示,网络平台方的责任仍然需要适用侵权责任法第三十六条的避风港选择,作为平台方只能审核网络用户上传内容的形式合法性,对于其是否侵犯他人肖像权,名誉权等,平台方没有能力也没有审核的法定义务,但是如果平台方拒不履行对淫秽物品的事前审核义务,是需要承担一定责任的。

此外,面对AI换脸技术的成熟,国家鼓励技术创新的前提条件是改进人民群众的物质文化生活需要,如果某项技术仅仅适用于黑产而很少用于上述目的,国家只能两权相害取其轻,禁止技术本身虽然存在一刀切的嫌疑,但是道德观的选择是法律制度的必然选择。

加载中...