新浪财经 股票

欧盟拟向“成瘾设计”开刀:社交媒体、AI聊天机器人面临新规

市场资讯 11.10 01:29

(来源:财联社)

财联社11月10日讯(编辑 史正丞)从让人停不下来的短视频,到借助情感互动留住用户的AI聊天机器人,科技公司争夺用户时间的产品设计,正成为欧盟新一轮监管的焦点。

综合多家媒体周一报道,他们看到的《数字公平法案》(Digital Fairness Act)草案显示,欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的AI系统纳入监管。

草案预计于11月11日、即本周三公布,违规企业可能面临最高相当于全球年度营业收入6%的罚款。

这项法案可能影响Meta、谷歌等科技巨头,以及一众电商平台。这些企业旗下的服务,很大程度上依赖与用户打“心理战”:要么是通过机制设计拉长留存时间,或是通过运营手段诱导用户买单。

据报道,此次草案的一项关键要求,是让用户能够主动关掉那些不断把自己“拉回”应用的功能,包括自动播放、与用户自身活动无关的通知,以及连续打卡式奖励机制。按照草案,企业将须向成年用户提供关闭这类功能的选择。

AI聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容,如果AI系统通过模拟人际关系来鼓励用户持续互动,相关功能也将受到约束,用户应有权将其关闭。

从商业模式看,这类规则可能触及平台提高用户留存和使用时长的常用手段。对于依靠广告变现的社交平台,用户停留时间与广告展示机会密切相关;对于AI应用,持续互动则可能影响用户活跃度和付费转化。

欧盟针对“成瘾设计”的行动早有铺垫。

今年2月,欧盟委员会依据现行《数字服务法》,初步认定某短视频平台的成瘾性设计违反相关规定,涉及功能包括“无限滚动、自动播放、推送通知和高度个性化的推荐系统”。

拟议中的《数字公平法案》将进一步从消费者保护角度处理这些问题。欧盟委员会公开资料显示,该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法,以及数字合同等问题,尤其关注未成年人等易受影响的消费者。

在打击诱导过度使用的功能之外,草案还拟为网站和应用列出一份包含10类操纵性设计的禁用清单。据报道,这些通常被称为“暗黑模式”的设计,将被认定为在任何情况下均属不公平行为,监管机构无需再逐案证明其造成的损害:

据报道,草案还拟要求在线订阅提供明确的合同终止按钮,免费试用转为收费订阅前须取得消费者主动同意,并在自动续费前发出提醒。针对未成年人,草案拟禁止电子游戏中的付费随机宝箱和“付费获胜”机制。监管范围由此从使用时长延伸至消费转化和持续扣费。

欧盟委员会的影响评估估计,这些规定将在2025年至2035年间为消费者避免884亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内,每年带来的收益预计为137亿欧元。相比之下,在避免重复计算各项措施的成本后,企业为遵守新规每年需持续支出的费用预计合计为6.78亿欧元。

不过,这项立法仍处于早期阶段。草案尚须经过欧洲议会和成员国审议,具体条款仍可能调整。按照目前披露的草案,该条例将在生效12个月后开始适用。

据报道,德国政府上月中旬已提出反对意见,主张修改现有消费者保护指令,而非另建一部横跨多个领域的新法律,并质疑将现行《不公平商业行为指令》改为条例的必要性“尚未得到充分证明”。

(财联社 史正丞)

加载中...