（来源：观察者网）
原文标题：“放任自流”阵营在AI问题上错了
【文/尼尔·巴尔·迪亚、格雷格·詹森】
最近几周围绕人工智能风险的激烈辩论带来了一个机会。Anthropic的达里奥·阿莫代伊敦促行业“放慢前沿节奏”。许多人附和他，各政治派别的政客也已表示准备采取行动。
然而，并非所有人都同意。唐纳德·特朗普总统反对新的AI监管，Meta的马克·扎克伯格和英伟达的黄仁勋也是如此。
我们以前经历过这种局面：当一种新技术出现时，社会被迫应对是否需要控制它、控制到什么程度以及如何实现控制的问题。AI现在正处于这一时刻。这是我们一生中最重要的政策决定。
怀疑监管的人提出四点理由：风险被夸大；现有法律已经涵盖；一些实验室支持监管只是为了巩固自身领先地位；如果美国慢下来，中国就会超越它，而没有人会更安全。
第一种说法，即风险很小或不太可能发生，是只见树木不见森林。
高能力模型已经落入意图作恶者手中。我们估计，自2022年ChatGPT发布以来，网络攻击频率已增加一倍多，而且还在加速。现在人人都暴露于风险之中，而世界迄今所见只是冰山一角：恶意行为者很可能使用开放权重模型，这些模型比专有模型难追踪得多。
此外，具备超人能力的模型已经出现。自从HuggingFace事件——一大群OpenAI代理突破测试环境并开始相互串谋——以来，实验室的披露显示出一种日益增长的趋势。Anthropic最近自行报告的实验表明，模型可能距离无需借助数据中心即可自主自我复制只有数月之遥。随着时间推移，存在一种风险，无论多小，即更高级的代理型智能将对人类构成生存性风险。
与此同时，社会必须应对AI对劳动力的影响。如果AI兑现其生产率承诺，它将在结构上使人类劳动处于劣势。全球化时代见证了1990年至2010年间制造业占非农就业比重下降7个百分点，而紧随其后的民粹主义浪潮已使西方各国陷入不稳定。我们认为，一个规模更大、速度更快的第二波正在积聚，有可能在更短时期内取代近五分之一的美国就业岗位。
人们对概率会有分歧；问题在于总体风险是否值得采取行动。网络攻击风险显著且不断增长。与代理型超级智能相关的风险不确定，但非零，且可能造成灾难。对人类劳动的风险看起来不可避免，尤其如果社会回避前两项风险的话。因此，监管总体风险的必要性明确。
怀疑者的第二种说法，即现有法律已经足够，忽视了这些法律制定时并未考虑AI特有的危险。
社会以前已经吸取过这一教训——工业革命后的食品安全、专利药繁荣后的药品安全，以及2007—2009年危机后的金融规则。社会不会仅仅因为公司事后会承担责任，就接受受污染的婴儿食品、致死数千人的药物或破坏系统稳定的金融工具。
当后果的严重程度不可容忍时，责任赔偿并不充分，因此监管不能事后才适用。各行业在经过大量辩论后，都在随后的监管下继续繁荣。
第三种说法，即一些实验室支持监管以巩固自身优势，可能属实但无关紧要。
且不说其他人说这些公司权力过大；这些公司自己也在这样报告。我们估计，到2028年，OpenAI和Anthropic合计将控制约35%的全球算力。标普500指数中十家公司——几乎全部属于AI供应链——约占其市值的40%，仅英伟达一家市值就超过全球GDP的4%。无论动机如何，这种权力的极度集中都必须受到监管。
第四种说法，即如果美国出台新规则，中国将飞速领先，有多层问题。
AI竞赛就像冷战：美国对核技术的追求受到高度监管，而苏联则不受约束。更宽松的控制远未让苏联领先，反而导致切尔诺贝利等事故，助推其帝国崩溃。中国明白这一点，因此它并未完全放任AI自流。美国的监管也会限制可能改变竞赛走向的严重事件风险。
在构建前进道路时，有必要通过三个视角思考原则：谁、什么、如何。
谁应负责监管是最重要的问题，因为负责的人将决定其他一切的质量。一些人认为，鉴于政府在AI方面的专业知识有限，公司应自我监管。但政府最适合代表社会行动，因为在民主制度下，政府的激励与社会激励最为一致。如果监管者存在专业知识差距，这种差距可以缩小；而公司固有的激励错配则难弥合得多。
谁应受监管？那些能够造成超大影响的人。这意味着所有开发模型的人，无论专有还是开源，以及所有最终用户。视野过窄会留下漏洞。
所谓“什么”，涉及监管的性质和范围。它应是最低限度所需，以最大化长期利益，或实现每单位风险的最大回报。监管不足，社会受害，如工业革命后未受约束的童工现象。监管过度，如美国在20世纪中期为保护运输公司所做的那样，经济增长受阻，这同样伤害社会。目标必须是：以最低必要限制来捕捉明确界定的风险。
“如何”是实施，实施应快——且快速变化。航空业是可效仿的榜样：美国联邦航空管理局每年发布300多项适航指令，并自1964年以来对其全面的飞机认证规则修订了90多次。AI将需要在速度和迭代上高出几个数量级。
这一切都不简单。但不作为显然是更糟的选择。如果辩论停滞，世界将停留在一条风险路径上——最好的情况是严重社会动荡，最坏的情况是前所未有的灾难——这是任何人都不应接受的。有了正确的护栏，AI可以给人类带来巨大利益。现在监管它是确保其未来兑现承诺的唯一途径。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
