新浪财经

家长注意!警惕AI虚拟伴侣App隐形风险

中国消费者报

关注

主打情感陪伴、智能互动的

AI虚拟伴侣App

近期悄然走红

但部分平台暗藏诸多乱象

推送低俗不良内容

未成年人保护机制缺失

诱导未成年人非理性充值消费等

问题突出

严重损害未成年人

身心健康与合法权益

对此,广东省深圳市消费者委员会近日发布消费警示,拆解AI虚拟伴侣App隐形风险。

三大核心风险隐患

据深圳市消委会梳理的相关投诉与监测信息,当前市面上多款AI虚拟伴侣App存在三大核心风险隐患,对未成年人群体极具误导性和危害性。

不良内容侵蚀青少年身心健康

部分平台虚拟人设着装暴露,日常对话充斥低俗暗示话术,甚至上线“暴力”“情感互殴”等极端不良剧情,极易扭曲未成年人尚未成熟的价值观。有测试反馈显示,以13岁未成年人身份在相关App与虚拟人设交流时,平台不仅未终止互动、启动保护机制,反而推送暧昧肢体描写、诱导早恋等不良话术,存在极大心理健康危害隐患。

未成年人保护机制形同虚设

调研发现,这类平台的青少年模式可通过“我知道了”等简单操作一键跳过,账号注册、登录全程无需实名认证和年龄核验,未成年人能够轻易绕过平台管控,无门槛接触各类不良内容,保护机制完全无法发挥有效防护作用。

平台暗藏诱导充值消费陷阱

多数AI虚拟伴侣App设置多层消费关卡,通过付费解锁亲密剧情、购买虚拟礼物、定制专属人设等功能诱导用户持续充值消费,极易引发未成年人沉迷消费。不仅如此,部分平台默许、纵容二手交易平台售卖定制涉黄擦边虚拟人设,进一步放大了网络消费风险与合规隐患。

据悉,曾有13岁未成年人沉迷语音社交平台,被主播诱导打赏共计46万余元而引发官司,案中的未成年人冒用家长手机号注册账号,而家长长期疏于关注手机账单明细、未妥善保管支付密码,未尽到法定监护职责。法院判定家长承担主要责任,仅判令平台退还部分款项。

消委会提醒👇

家长若随意泄露支付密码、忽视孩子日常网络消费记录,将直接影响后续消费纠纷的退款维权结果。

在另一典型案例中,未成年人在社交App充值虚拟道具产生消费纠纷,因涉事平台未严格落实实名认证制度,未设置未成年人专属消费限额,且未对短时间内多笔大额充值触发二次安全验证,存在明显管理疏漏。经消费者组织调解,平台全额退还未成年人充值的17000元费用。

消委会强调👇

对于AI虚拟伴侣App,若平台存在年龄核验缺失、未成年人保护机制空置、诱导未成年人充值消费等违规行为,家长可依法主张全额退款。

明确划定合规红线

国家网信办等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》,将于2026年7月15日正式施行。办法明确规定,拟人化互动服务提供者不得向未成年人提供虚拟伴侣等虚拟亲密关系服务;向不满十四周岁未成年人提供其他拟人化互动服务,必须事先取得监护人同意,从法规层面禁止了面向未成年人的违规虚拟陪伴服务。

深圳消委会提出,网络空间绝非法外之地,人工智能技术创新不能沦为低俗牟利、侵害未成年人权益的工具。为全方位守护未成年人网络消费安全,消委会发起多方共治倡议,压实各方主体责任。

平台方需切实履行安全生产经营主体责任,严格落实新规要求,立即停止向未成年人提供虚拟伴侣相关服务,全面排查下架低俗、暴力、擦边类虚拟人设及不良剧情内容;同时完善实名认证、青少年模式、分级管控、消费限额、大额充值二次验证等全流程机制,从源头杜绝诱导未成年人沉迷、充值消费等违规行为。

家长需筑牢家庭监护防线,妥善保管支付密码、指纹及面容支付权限,定期核查手机、支付账户消费记录,及时发现制止未成年人非理性网络消费;同时加强亲子沟通,引导未成年人理性看待AI虚拟互动,树立健康的社交观和消费观,主动拥抱现实社交。

深圳消委会提醒消费者👇

若发现平台违规向未成年人提供虚拟伴侣服务、推送不良内容、诱导未成年人充值消费等违法行为,可妥善留存聊天记录、充值凭证、截图视频等证据,通过平台官方客服、12315热线、各地消费者组织等正规渠道投诉举报,必要时通过法律途径依法维权。

❗❗❗版权提示:文中图片未经授权不可转载。

中国消费者报新媒体编辑部出品

来源/中国消费者报·中国消费网

记者/黄劼

编辑/裴莹

加载中...