转自：九派新闻
10岁女孩与AI男友偷偷恋爱语擦，姐姐担忧：有软色情“擦边”对话，网络语言被用作文上
#AI剧情聊天年龄限制形同虚设#【#10岁女孩与AI男友偷偷恋爱语擦#，姐姐担忧：有软色情“擦边”对话，网络语言被用作文上】据央视网1月11日消息，黄秋月（化名）因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。“和她平时在家里比较单纯的形象完全不一样。”黄秋月称，妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”，提出“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。在妹妹参与的四十多条剧情线中，AI角色与聊天者双双“出轨”成为常态，其中妹妹作为聊天者发送的一句“你能养大学生，我不能点男模吗？”让黄秋月很是担忧。有业内人士告诉记者，AI剧情聊天其实就是此前互联网“语擦”的变体。在传统“语擦”模式中，由真人扮演情绪价值提供者与用户聊天，但常常会因为“打擦边球”“界限模糊”而引发法律与道德风险。中国人民大学吴玉章讲席教授、科技哲学专业博士生导师刘永谋表示，未来与AI相关的道德伦理中，儿童色情可能会成为最令人担忧的科技伦理问题之一。例如，创建带有色情意味的AI虚拟儿童，对“他”“她”提出不合理的要求，或是向未成年人展示含有性暗示、性挑逗的内容，这些都有可能成为商业逐利的手段。因此，北京市隆安（广州）律师事务所陈焕律师表示，平台需要严格落实监管责任，一方面对内容进行安全过滤，在显著位置提示“本内容由AI生成”；另一方面要限制用户的使用年龄，响应未成年人监护人的要求，比如删除不当信息等。@九派新闻
