美国八个州周三对OpenAI提起诉讼，指控这家人工智能公司的ChatGPT聊天机器人是不安全产品，伤害了儿童并欺骗了家长。
爱荷华州总检察长布伦娜·伯德在一份新闻稿中表示，爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州已分别在各自州法院起诉OpenAI。她说，爱荷华州的诉讼旨在“维护受OpenAI故意、危险、鲁莽和非法行为影响的爱荷华州民众的权利”。
“OpenAI正在伤害孩子，并且在对爱荷华州民众撒谎。”伯德在一份声明中说。“OpenAI声称ChatGPT是安全的，但它却提供危险的医疗建议，鼓励人们伤害他人，并指导人们自杀——同时还假装是他们的假朋友。我的诉讼是为了保护我们的孩子，并根据我们州的法律追究OpenAI的责任。”
OpenAI发言人德鲁·普萨特里表示，公司已在产品中内置了针对年龄的保护措施，而“许多其他AI产品缺乏这些措施”。他补充说，OpenAI正在与各州合作，推动适用于整个行业的政策。
“虽然没有任何系统是完美的，但我们将继续与专家合作，为我们的工作提供信息，并建立更多保障措施，例如目前已有的家长控制、休息提醒和适合年龄的模型保护。”普萨特里说。
OpenAI在安全和安保实践方面正面临越来越多的审查，包括公司如何努力保护儿童。在多起非正常死亡诉讼中，ChatGPT被指责导致用户产生有害妄想，并在某些情况下导致自杀。佛罗里达州总检察长詹姆斯·乌斯迈尔也在6月起诉OpenAI，指控该公司在明知产品可能伤害用户的情况下仍发布了不安全产品。
过去一年，OpenAI已采取措施增强面向家长和儿童的安全功能，并在8月推出了一款面向未成年人的专门体验，名为ChatGPT for Teens（ChatGPT青少年版）。该产品包含一系列教育功能和适合年龄的保障措施，旨在减少接触不适合其发展阶段或有害的内容。
“青少年应该能够使用AI来学习、创造和探索。”OpenAI当时在一份新闻稿中表示。“但这种访问应该伴随反映其发展阶段的保护措施，强化现实世界中的关系，并支持长期健康使用。”
