苹果收紧App Store审核:严打AI深度伪造裸照
(来源:三言科技)
10月20日消息,据外电报道,苹果正试图加强对 iOS 应用商店(App Store)的管控,重点针对可生成 AI 深度伪造裸照的相关应用。
苹果在开发者官网发布简短通知,宣布调整 App Store 审核管理策略。新规主要针对一类应用:这类应用借助用户生成内容工具,能够制作真人的非自愿私密影像。
App Store 原本就禁止色情内容,也明令禁止专门用于生成此类内容的应用。而新规进一步要求:具备生成这类内容潜力的应用,也必须对相关内容进行过滤,提供举报入口、拦截违规内容上传,并清除所有侥幸绕过防护的违规素材。
本次调整的核心,是要求应用开发者更严格地自查,防范 AI 生成裸照。若应用违反上述规则,或是触犯新增的 “挂羊头卖狗肉” 条款(例如在提审阶段虚假宣传应用功能),苹果可直接将其下架。此外,对应开发者还会被剥夺提交新应用至 App Store 的权限。
今年早些时候,一项研究发现,苹果 App Store 与谷歌应用商店内存在数十款可制作真人深度伪造裸照的应用。当时苹果下架了大量违规应用,而本次出台新规表明,要持续遏制这类应用在 App Store 内反复出现,仍有不少工作要做。