美国总统唐纳德·特朗普与硅谷领导人达成一项协议，支持由外部机构来评估人工智能AI系统的安全性，希望借此应对外界对AI风险日益增长的担忧，而无须出台新的监管规定。
特朗普周二在白宫与近二十位科技行业高管共进午餐，并在会议期间达成了这份协议，与会高管还承诺定期举行会议，共同为行业垂范。虽然这份文件不具备法律效力，但特朗普告诉记者，它“具有道德约束力”。
“从某种意义上说，它几乎就像一部宪法。”特朗普在活动结束后于白宫车道上告诉记者，“世界上最重要的人物都签署了它，我作为总统也签了，它确实是一种保护措施。”
这项协议是在特朗普与来宾进行了近两个小时会谈后达成的，当前全球对AI潜在灾难性风险的担忧日益加剧。签署者包括AI行业最杰出开发企业的领导人：Anthropic PBC首席执行官达里奥·阿莫代伊，英伟达公司首席执行官黄仁勋，以及SpaceXAI的埃隆·马斯克。
据特朗普在其Truth Social平台上发布的协议文本，其他签署者包括OpenAI总裁Greg Brockman，Meta Platforms Inc．的马克·扎克伯格，和谷歌母公司Alphabet Inc．的首席执行官Sundar Pichai。包括Anthropic和OpenAI在内的几家公司此前已承诺聘请独立评估人。
根据这项协议，特朗普政府坚持此前的立场，即AI企业应主要依靠自我监管来保障安全。不过，这份文件也显示出政府对设立一定安全护栏有了新的开放态度。协议建议，AI企业“应当”建立四层安全控制机制，并指出，未来或许有必要将相关建议正式写入法律法规。
接受第三方评估机构参与审查，标志着特朗普政府对AI安全问题的立场出现转变。尽管业界一直呼吁由独立评估机构对最先进的AI模型进行评测，但特朗普政府官员此前一直对最适合承担此类工作的机构持保留态度，担心其可能带有特定意识形态倾向。
责任编辑：于健 SF069
