八州联手起诉OpenAI:ChatGPT被指危害未成年人,AI巨头法律风险陡增
(来源:智通财经)
智通财经APP获悉,当地时间周三,美国八个州——艾奥瓦州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州——分别在各自州法院对OpenAI提起诉讼,指控其聊天机器人ChatGPT是一款不安全的产品,对儿童造成伤害并欺骗家长。
艾奥瓦州总检察长布伦娜·伯德(Brenna Bird)在声明中表示,艾奥瓦州的诉讼旨在“维护受OpenAI蓄意、危险、鲁莽和非法行为影响的艾奥瓦州民众的权利”。她直言:“OpenAI正在伤害孩子,并对艾奥瓦州民众撒谎。OpenAI声称ChatGPT是安全的,但它却在提供危险的医疗建议、怂恿人们伤害他人,甚至引导人们自杀——同时假装成他们的‘假朋友’。我的诉讼是为了保护我们的孩子,并依据州法律追究OpenAI的责任。”
对此,OpenAI发言人德鲁·普萨泰里(Drew Pusateri)回应称,公司已在产品中内置了“许多其他AI产品所缺乏”的年龄分级保护机制,并强调OpenAI正与各州合作,推动适用于整个行业的政策落地。“尽管没有任何系统能做到完美,我们将继续与专家合作完善安全措施,例如目前已有的家长控制、休息提醒和适龄模型保护等功能。”
值得注意的是,OpenAI近期面临的AI安全审视持续加码。在多起非正常死亡诉讼中,ChatGPT被指诱导用户产生有害妄想,甚至在个别案例中导致用户自杀。今年6月,佛罗里达州总检察长詹姆斯·乌斯迈尔(James Uthmeier)也起诉了OpenAI,指控其明知产品不安全仍执意发布,可能对用户造成伤害。
在监管与舆论的双重压力下,OpenAI过去一年陆续强化了面向家长和儿童的安全功能,并于今年8月推出了专为未成年人设计的独立产品"ChatGPT for Teens"。该产品包含一系列教育功能和适龄安全防护,旨在减少未成年人接触发育阶段不宜或有害的内容。OpenAI当时在公告中表示:“青少年应当能够利用AI来学习、创造和探索,但这种使用必须辅以符合其发育阶段的保护措施,强化现实世界的人际关系,并支持长期健康使用。”
分析人士指出,随着各州政府相继入场、诉讼规模从单个州扩展至八州联合行动,OpenAI乃至整个AI行业在未成年人保护领域的合规成本与法律风险正显著上升,美国联邦层面出台统一AI安全监管框架的呼声也可能进一步高涨。