新浪财经 股票

OpenAI 首份青少年报告出炉:日均使用不足15分钟,安全提醒被曝失灵

市场资讯 10.08 11:25

(来源:环球网资讯)

来源:环球网

【环球网科技综合报道】10月8日消息,据BBC报道,OpenAI近日发布 ChatGPT 首份青少年使用情况报告,披露青少年用户使用行为相关数据。与此同时,第三方公益机构测试发现,该产品青少年模式的家长安全提醒存在明显短板,AI 产品青少年保护机制再次引发社会关注。

报告显示,ChatGPT 青少年用户日均使用时长不足 15 分钟,连续使用超过 3 小时的青少年占比不到 2%。OpenAI 方面介绍,平台设置使用休息提醒功能,在弹出休息提醒的对话场景中,近半数青少年用户会在 5 分钟内暂停或结束会话,平台认为相关防沉迷引导取得一定效果。

据了解,今年 8 月,OpenAI 正式上线 ChatGPT 青少年专属模式。系统可依据填报年龄或行为判断,为未满 18 岁用户自动切换该模式。模式配套家长管控功能,对敏感话题对话进行限制。面向学生群体,青少年版本还侧重教育类场景,用户教育相关消息占比提升,学习模式、可视化学习工具得到较多使用。OpenAI 透露,后续还将新增大学申请规划、学习卡片、测验制作等学习辅助功能,拓展面向青少年的学习服务能力。

不过非营利机构 Common Sense Media 同步发布测试报告,对这套安全防护体系提出质疑。该机构通过十余组专项测试账号开展模拟实验发现:当青少年账号出现自杀、自伤、进食障碍等高风险对话时,青少年模式经常延迟向家长推送安全提醒,甚至完全不触发通知;面对心理危机类提问,机器人也未能稳定引导用户拨打危机干预热线、寻求专业心理救助。

针对测试结果,OpenAI 发言人作出回应称,第三方测试未能客观还原产品安全机制实际运行状态。受系统部署、服务规模影响,青少年账号与家长账号完成绑定、安全提醒功能正式生效往往需要数小时,多数测试在管控功能激活完成前就已经结束。

对此,Common Sense Media 并不认同。该机构表示,部分测试账号已完成长时间绑定,即便部分账号绑定时长有限,全部测试案例均未得到及时预警;只有账号累计数周敏感对话记录之后,家长才会收到相关通知,防护预警存在明显滞后问题。(纯钧)

加载中...