13岁女孩利用AI策划自杀及葬礼,其父母起诉谷歌
(来源:观察者网)
【文/观察者网 熊超然】
据欧洲新闻台(Euronews)当地时间11月6日报道,美国加利福尼亚州一名13岁女孩的父母近日对谷歌公司提起诉讼,指控其人工智能(AI)技术对女儿造成伤害。
诉状称,女孩曾使用学校配发的Chromebook笔记本电脑(谷歌旗下广泛应用于校园的低成本笔记本电脑),通过谷歌搜索中的AI功能策划可能的自杀,并安排自己的葬礼。这被认为是首起针对谷歌、涉及学校配发设备上AI搜索功能的过失诉讼。
诉状称,女孩此前没有精神疾病病史,但在使用谷歌搜索引擎后的几个月内,逐渐陷入“严重的心理危机”。今年3月17日,学校监控软件发现她创建了一份名为“葬礼”的文件,随后通知了其父母。女孩的母亲之后又发现她正在写告别信,女孩的父亲随即出面干预。
值得注意的是,女孩所在学校此前已经屏蔽了谷歌Gemini应用和OpenAI的ChatGPT,但她仍然可以使用谷歌搜索引擎及其内置的AI功能。
女孩家人的代理律师安德鲁·利德尔表示,学校应该关闭搜索功能,直到谷歌从搜索中移除AI模式,或者确保所有学生在与AI互动时始终安全。
面对指控,谷歌发言人何塞·卡斯塔涅达回应称,公司正在审查诉讼中的相关指控,并对此事高度重视。谷歌还表示,其AI模式包含防止自残行为的安全防护措施,以及应对用户试图绕过这些措施的机制。
报道称,随着AI和社交媒体可能对未成年人造成的影响受到越来越多的关注,科技巨头正面临一系列法律诉讼。
目前,OpenAI正面临多起过失致死诉讼,其中包括16岁少年亚当·雷恩的父母提起的一起案件,他们指控其儿子在从ChatGPT获得有害建议后自杀身亡。
今年1月,谷歌和Character.AI也同意与多个青少年家庭就相关诉讼达成庭外和解。
此外,谷歌和Meta等公司于11月5日对加利福尼亚州提起诉讼,试图阻止一项禁止向16岁以下用户提供具有成瘾性社交媒体功能的法律生效。该法律由加州州长加文·纽森今年9月签署,计划于2027年1月1日实施。
本文系观察者网独家稿件,未经授权,不得转载。