新浪财经

白宫发布人工智能协议

滚动播报 09.30 05:34

美国白宫发布人工智能协议,声称为给美国民众与全世界创造美好的未来,认为每家企业都有责任安全地研发自身技术,并建立客户与公众的信任。 所有训练和部署前沿模型的企业,首先必须建立完善的内部流程与管控机制,确保技术按预期运行,并且能够及时发现、解决各类问题。因此,除其他防范措施外,认为每家企业应当落实以下四层管控与审计机制: 1. 建立健全的内部管控体系,在模型训练与部署阶段,针对网络安全、生物安全、化学威胁等领域,监测模型能力与合规性,确保模型不会以非预期方式入侵或访问技术系统。 2. 设立内部专项团队,保障所有管控、监测和检测机制按设计运行,并且对发现的所有问题开展整改。 3. 与独立外部审计或评估机构合作,针对管控、监测与检测机制是否正常运行开展独立评估。 4. 设立董事会独立委员会,监督管控执行团队、内部及外部审计评估机构,并接收其报告,同时确保所有发现的问题得到整改。 以上举措共同作用,能够让企业、客户以及公众相信技术正在按预期运行。 参与企业将定期会晤,制定标准与最佳实践,提升系统安全性。 长期来看,或将把上述举措纳入法律法规。无论企业是否被强制要求执行,白宫认为落实这套管控与审计机制对保障所有人的安全未来至关重要,各家企业承诺将践行上述要求。

加载中...