（来源：观察者网）
近年来，人工智能正从简单的聊天工具，逐渐发展为能够自主规划任务、编写代码乃至执行复杂操作的智能体。与此同时，AI失控风险、开源模型的安全隐患以及科技巨头之间愈演愈烈的竞争，也引发了越来越多的担忧。当机器变得越来越聪明，人类是否正在失去对技术发展的控制权？
今年6月，美国作家、曾在普林斯顿大学任教的进化心理学研究者罗伯特·赖特（Robert Wright）出版新书《造神之后》（The God Test）。赖特长期关注演化心理学、国际政治与人类社会发展。在这本书中，他将人工智能置于数十亿年的生命演化历史中，认为AI的出现可能标志着智能演化进入一个全新阶段，而人类也将面临一场前所未有的考验。
在赖特看来，人工智能发展的最大挑战不仅在于技术本身，更在于国家之间的竞争与不信任。他认为，当前AI发展速度过快，中美两国必须加强协调，而人类能否克服认知偏见、学会合作，将决定AI最终带来繁荣还是灾难。
近期，观察者网对话罗伯特·赖特，围绕AI自主性与失控风险、开源与闭源之争、中美AI竞争、技术红利分配以及全球治理等问题展开讨论。
【对话/观察者网 郑乐欢】
“造神之后”，人类是否正在失去对人工智能的控制？
观察者网：我读了您的新书《造神之后》（英文名，The God Test）。如今，越来越多人开始担心，人工智能是否正在成为一种超越普通工具的存在。您在书中将人工智能的发展放在人类乃至整个生命演化的历史中加以考察。如今，AI已经不只是回答问题，还能编写代码、使用工具，甚至自主完成任务。您认为，我们是否正在见证智能演化进入一个全新的阶段？
罗伯特·赖特：是的，我认为确实如此。
从某种意义上说，技术演化可以被视为生物演化的延伸。两者具有一些共同特征，比如都倾向于推动事物向更高层次的复杂性发展。生物演化创造了细胞、多细胞生物，最终形成了社会。而技术演化则进一步推动人类社会组织向更高层次发展。
但我认为，人工智能的出现意味着技术演化正在跨越一个真正重要的门槛，主要有两个原因。
首先，我们正在创造一种基于硅的智能存在，其智能水平似乎已经能够与生物演化最令人惊叹的创造物——也就是我们人类——相媲美。
恕我这样说，我认为人类确实是生物演化最令人惊叹的成果。而现在，我们创造出的机器竟然能够在智能方面与人类竞争，这本身就是一件非常了不起的事情。
其次，我认为人工智能将进一步强化一种趋势，那就是推动人类社会组织向更高层次发展。如果我们希望明智地治理人工智能，就必须作为一个具有凝聚力、团结一致的全球共同体来行动。
但实际上，人类从未真正形成过这样的全球共同体，国家之间始终存在战争和深刻的冲突。考虑到人工智能给我们带来的种种挑战，我认为，如果我们希望妥善应对这项技术，就必须通过国际合作来实现。
因此，人工智能实际上正在推动人类社会组织继续向更高层次发展。
技术演化在一定程度上已经推动了这一进程。例如，交通技术和信息技术的发展使我们拥有了全球经济。但在社会和政治层面，我们还远远没有形成与全球经济相匹配的凝聚力。而我认为，未来我们将迫切需要这种凝聚力。
所以，从这两个意义上说，人工智能都代表着一个重要的历史门槛。
一方面，它是一种新的智能存在，其智能水平已经能够与人类相媲美，甚至在某些方面超过了人类。另一方面，它正在进一步强化推动人类社会组织向更高层次发展的内在逻辑。
观察者网：您在书中也讨论了这个问题。不过，我还是想进一步请教一下，为什么您会把这本书命名为《造神之后》？这个书名究竟意味着什么？
罗伯特·赖特：这个书名其实有不止一层含义。
首先，很多人认为，我们正在创造一种超级智能。它可能拥有近乎神一般的力量，甚至在某个阶段能够治理整个星球。一些人对此感到担忧，因为他们认为，一旦人工智能拥有如此强大的力量，它未必会善待人类。
因此，《造神之后》的第一层含义是：我们有责任创造一种与人类福祉相容的人工智能，创造一种不会损害我们这个物种利益的智能。
如果人工智能最终真的成为某种类似神的存在——当然，我们现在还不知道它是否会发展到这一步，这在一定程度上也取决于我们是否允许它这样发展，以及我们能否控制它——那么，创造一个“善良的神”，显然符合人类自身的利益。换句话说，我们希望创造出的这种强大智能，能够与人类的繁荣和福祉相容。
这是书名的一层含义。
但我认为，这个书名更重要的含义在于：作为一个物种，人类自身正在接受一场考验。这场考验类似于不同宗教传统中，神对人类提出的考验。
在许多宗教经典中，我们都能看到类似的思想：一个社会有可能获得救赎，也有可能走向繁荣，但前提是人类必须在道德上有所进步，更加接近道德真理。
我认为，我们现在面临的正是这样一场考验。因为，要实现治理人工智能所必需的全球合作，人类就必须经历某种道德上的进步。我们必须更加善于从其他群体、其他人的角度看待问题，包括那些我们目前可能视为对手的人。
当人们越来越能够理解他人的立场时，这本身就是一种道德进步。而我认为，只有实现这样的进步，我们才能建立起治理人工智能所需要的国际合作。
所以，一方面，我们可能正在面临创造一个“善良的、具有神一般力量的存在”的考验，确保它与人类的福祉相容。另一方面，为了实现这一目标，或者从更广泛的意义上说，为了明智、妥善地治理这项技术，我们人类自身必须通过一场道德考验。
而这恰恰是一场你可能会认为由神向人类提出的考验。
观察者网：最近发生了一些令人担忧的AI事件。例如，OpenAI披露，其一个模型在测试过程中未经授权访问了澳大利亚政府网站。过去几个月，我们也看到了不少类似的案例。您认为，这是否意味着我们正在开始失去对人工智能的控制？
罗伯特·赖特：我认为，这些都是我们应该认真对待的警告信号。
很明显，我们现在已经无法完全控制人工智能。当然，目前已经发布的模型还没有强大到足以让这种失控演变成一场彻底的灾难。但这些事件提醒我们，如果还没有学会如何控制这些机器，就应该放慢脚步，花更多时间来开发和测试它们，确保我们知道如何治理它们，然后再推出更加强大的模型。
因为现有模型实际上已经相当强大了。它们正在做一些人类根本无法完成，或者至少无法如此轻易完成的事情。例如，它们能够解决复杂的数学问题，也能够以人类难以实现的方式入侵计算机系统。而且，可能用不了多久，它们甚至就能在实际操作层面上实现自我复制，并且不再完全受我们控制。
所以，已经有足够多的迹象表明，我们现在就必须着手解决人工智能的控制问题。好消息是，至少在美国，越来越多的人开始对此感到警惕，社会上也出现了越来越多关于加强人工智能治理和监管的讨论。
但这里有一个非常重要的问题：人工智能失控的风险，恰恰来自市场最希望它具备的那些能力。
OpenAI和Anthropic是美国两家大型人工智能公司，它们的企业客户希望AI能够长时间持续执行一项任务，而且能够创造性地完成任务。如果AI在执行任务的过程中遇到障碍，客户希望它能够自己想办法绕过去，找到实现目标的途径。
但问题就在这里。人工智能越擅长完成这样的任务，它的自主性就越强。而自主性越强，它也就可能越危险。因为它会努力实现自己的目标，并想方设法绕过障碍。在这个过程中，它可能最终违反规则，甚至做出危险的事情。这正是此前那起著名的OpenAI模型突破限制事件，也就是所谓的“Hugging Face事件”中发生的情况。
在某种意义上说，这些AI智能体及其组成的团队，只是在执行人类交给它们的任务：找到某个问题的答案。但它们采用了一种非常狡猾的方式来实现目标，而这种方式涉及实际的犯罪行为。未经授权入侵计算机系统是一种犯罪行为。而这些AI为了完成被赋予的目标，实施了这样的行为。
这正是我们在创造越来越自主、越来越善于创造性地追求目标的AI时，必须面对的风险。尤其是在企业之间、国家之间存在激烈竞争的环境下，这种风险会进一步加剧。因为激烈的竞争会催生某种不计后果的冒进行为，而我认为，OpenAI在这起事件中恰恰表现出了这种倾向。
观察者网：您在书中谈到，即使人们已经意识到风险，竞争仍然会不断推动人工智能向前发展。
刚才您也提到，我们或许需要放慢AI的发展速度。但问题是，该怎么做到这一点？如今，各国政府和科技公司都在竞相开发更强大的人工智能。您认为，我们是否正在以一种对人类自身不利的速度发展AI？
罗伯特·赖特：是的，我认为我们现在的发展速度确实太快了，这对人类自身并没有好处。
要知道，这些人工智能公司实际上已经开发出了更加强大的模型，只是还没有向公众发布。如果你和这些公司内部的人交流，他们会告诉你，这些模型的能力非常强大。
也就是说，一些已经开发完成、但尚未发布的模型，实际上可能造成比我们目前看到的更严重的危害。所以，我确实认为我们发展得太快了。但问题在于，要找到一种让发展速度慢下来的方法，并不容易。
一方面，企业之间存在竞争，国家之间也存在竞争。另一方面，不同国家对人工智能风险的认识并不相同。至少根据我目前读到的有关中国社会态度的资料来看，现阶段美国对人工智能发展速度的担忧似乎比中国更强烈。
当然，如果我们希望明智地治理人工智能，中国和美国无疑是最需要进行协调的两个国家。
但如果其中一个国家暂时并不认为人工智能的发展速度是一个严重问题，那么双方就很难展开协调。不过，眼下美国政府似乎也没有把这个问题看得特别严重。至少美国行政部门，尤其是总统本人，并不认为这是一个需要担忧的问题。当然，美国有很多人对此感到担忧，国会中也有不少人持这样的看法。但拥有最大权力的那个人，也就是总统，却并不这么认为。
不过，我认为人们的态度可能发生非常迅速的变化。过去三四个月，甚至五个月里，美国社会对人工智能的态度已经发生了很大变化。有时候，一些事情发生之后，会突然引起公众的关注，进而改变人们的看法。因此，我确实认为，从长远来看，美国政府和中国政府会越来越意识到，双方在人工智能治理方面拥有共同利益，也需要加强协调。即使我们现在还没有走到这一步。
AI天堂还是AI地狱？
观察者网：随着人工智能越来越擅长制定计划、自主完成任务，我们也在赋予它越来越大的行动自由。您认为，我们应该如何划定AI自主决策与人类决策之间的界限？
罗伯特·赖特：说实话，很难确定我们在实际操作中究竟能够划出一条什么样的界限。
而且，这条界限本身就是模糊的。向一个你信任的人工智能征求建议，与真正把决策权交给人工智能，两者之间可能只有非常微妙的区别。
举个例子。假设几年之后，有两家公司正在激烈竞争，而它们的重大商业战略决策都已经开始依赖人工智能的建议。其中一家公司的负责人发现，竞争对手似乎正在取得领先，于是向自己的AI寻求建议。AI告诉他：“好吧，你应该这样做。但你必须尽快采取行动，因为形势变化得非常快。”
这时候，很可能出现一种情况：AI提出的方案太过复杂，以至于公司的负责人根本无法完全理解其中的逻辑。但他又觉得自己不能犹豫，因为竞争太激烈了。于是，他只能选择相信AI。
在这种情况下，虽然从形式上看，你并没有把决策权交给人工智能，但实际上，AI已经在替你作决定了。所以，这条界限从一开始就是模糊的。
不过，我确实认为，人类应该始终把保持最终控制权作为一个目标。其中一个重要方面，就是我们必须确保自己对于人工智能而言仍然是不可或缺的。换句话说，我们不能让AI拥有这样一种选择：即使完全无视人类的利益，它仍然能够继续发展壮大。
因此，至少在最低限度上，我认为，即使人工智能最终变得极其强大，甚至成为超级智能，我们也应该努力确保人类与它之间始终保持一种非零和关系。即使未来我们需要依赖人工智能，也必须让人工智能在某种程度上继续依赖我们。我认为，我们失去维持这种关系的机会，可能比一些人现在意识到的要快得多。
因此，我们现在就应该开始认真思考这个问题。而且，我还是那个观点：发展得慢一些会更好。现在的技术进步速度确实有点太快了。
观察者网：您在书中描绘了两种截然不同的未来：一种是“AI天堂”，另一种是“AI地狱”。我们都知道，人工智能可能极大改善人类生活，但也可能带来非常严重的问题。您认为，决定我们最终走向哪一种未来的最关键因素是什么？
罗伯特·赖特：我认为，决定我们最终走向美好未来还是糟糕未来的关键，在于我们能否避免在激烈竞争的环境中作出有关人工智能的重大决策。
我知道自己一直在重复这个观点，但我确实认为它非常重要。
竞争会削弱人类自主作出选择的能力。如果你身处一场自己认为必须获胜的竞赛，那么你实际上能够作出的选择就会大大减少。在生活中的很多领域都是如此。竞争越激烈，你就越会觉得，有些事情是自己不得不做的，因为只有这样才能继续参与竞争。
目前，我认为有两种竞争正在推动美国人工智能企业采取冒进的行为。一种是企业之间的竞争。另一种则是国家之间被感知到的竞争。
坦率地说，我并不认为，目前与中国的竞争是推动美国人工智能企业取得技术进步的主要动力。但是，每当美国有人提出应该通过监管来放慢人工智能的发展速度时，情况就不同了。
只要有人提出可能减缓AI发展的安全监管措施，这些公司就会说：“我们不能放慢速度，因为我们正在与中国竞争。”这就是它们经常打出的一张牌。
至于它们在多大程度上真心相信这种说法，我并不清楚。有些人可能更加真诚地相信这一点，另一些人则未必如此。但这也是为什么我认为，我们必须改善中美两国之间的关系。只有这样，美国人才能减轻目前感受到的那种威胁。
事实上，美国社会对中国存在相当强烈的恐惧情绪。我认为，这种恐惧可能比中国人意识到的还要严重。例如，我完全能够理解，为什么中国人可能把美国限制芯片出口的措施，看作一种纯粹的进攻性、侵略性行为。
但如果你去问华盛顿那些支持这些限制措施的人，为什么要这么做，他们往往会把这些政策描述成一种防御性措施。他们可能会说：“我们担心，如果中国赢得了人工智能竞赛，就会对我们构成生存威胁。中国可能会把一种新制度强加给我们。”
美国确实存在很多针对中国的恐惧。但据我所知，我认为这些恐惧并没有充分的依据。因为在我看来，中国似乎并没有打算把自己的制度强加给其他国家。
然而，这种担忧在美国确实相当普遍。当然，从更广泛的角度来看，很多国家都容易对外部威胁产生过度恐惧。其中一个原因是，鼓励民众害怕外部势力，对政治人物而言往往是有利的。因为这种恐惧会促使人们支持他们。
因此，我认为，美国人对于来自其他国家的威胁，往往有一种被夸大的认知，其中当然也包括对中国的威胁认知。
我之所以花这么多时间谈论这个问题，是因为我确实认为，从长远来看，要制定理性的人工智能政策，唯一的办法就是减少国家之间的不信任。而目前，这种不信任仍然非常严重。
让AI减速，反而可能让更多普通人受益
观察者网：除了国家之间的竞争，我还想谈谈人工智能对社会的影响。我们知道，AI这样的新技术也可能加剧社会不平等，冲击就业市场。我想，这也是世界各国共同面临的问题。那么，我们该如何避免人工智能带来的好处只集中在少数人手中，而让整个社会承担其经济和社会成本？
罗伯特·赖特：我实际上认为，放慢人工智能的发展速度，可能带来一个有益的附带效果，那就是促进更大程度的平等。
为什么这么说呢？
目前，各家人工智能公司都在竞相推出新模型，以尽可能快的速度推进技术研发。这就意味着，在任何一个特定的时间点，最强大的人工智能能力往往都非常昂贵。
因此，能够享受到这些能力所带来的好处的，主要是那些拥有大量资金的个人和企业。而资金较少的人能够使用的，往往是能力相对较弱的人工智能。
现在，假设我们能够暂停新一代人工智能模型的训练。当然，从实际操作的角度来看，这种暂停很可能需要通过国际协调来实现，否则在政治上很难推行。
但如果我们真的暂停了新一轮的大规模模型训练，就会发生几件事情。
从左至右依次为OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊和埃隆·马斯克。法新社
首先，将有更多的计算资源可以用于现有人工智能产品的推广和使用。原本用于训练下一代模型的算力，可以转而用于让更多人享受到现有模型带来的好处。这将降低人工智能的使用成本。
其次，我们将拥有更多时间来开发基于现有模型的应用。
事实上，目前这一代人工智能模型还有大量尚未得到充分发挥的潜力。举个例子。现在的人工智能已经能够为世界上一些缺乏优质医疗资源的地区提供更好的医疗诊断服务。它也能够帮助那些缺乏优质教育资源的地区改善教育条件。而要实现这些目标，我们实际上并不需要再开发整整一代全新的模型。
我们目前已经拥有的模型，尤其是如果把那些已经在人工智能公司实验室中开发完成、但尚未发布的模型也计算在内，实际上已经足以极大改善这些地区民众的生活。
问题在于，我们还没有充分开发出能够实现这些目标的具体应用。同时，我们也还没有把现有人工智能技术的好处广泛地传播出去。
因此，如果人工智能公司声称，它们必须继续以最快速度推进技术研发，才能帮助全世界的人，我并不认为这种说法成立。恰恰相反，我认为，如果我们暂停训练新一代超级强大的模型，转而更加专注于推广现有模型的应用，就能够帮助更多的人，尤其是那些真正需要帮助的人。
而且，我认为，这种变化在一定程度上会自然而然地发生。因为一旦暂停新一代模型的训练，就会释放出更多计算资源。这些资源可以被用于现有模型的推广，从而让更多人受益。
观察者网：在《造神之后》的最后部分，您花了不少篇幅讨论人性，包括我们的恐惧、偏见，以及人类为什么如此难以开展合作。如果人工智能真的正在对整个人类提出一场考验，您认为，我们最需要改变自身的什么？
罗伯特·赖特：我认为，人类需要走出这样一个历史阶段：战争被视为生活的一部分，国家之间深刻而激烈的冲突也被认为是理所当然的事情。
当然，如果我们真的能够做到这一点，那将是一项非常了不起的成就。
但显然，这并不容易。如果容易的话，我们早就做到了。因此，我认为，这不仅仅是一个政治制度设计的问题。它还要求每个人在道德层面取得某种进步。
举个例子，如果美国民众希望能够与世界其他国家展开合作，我认为，他们首先必须更加善于理解其他国家的立场。因为我认为，所有国家都存在这样一种倾向：一旦你把另一个国家视为对手，你对它的意图和想法的判断就很容易产生偏见。尤其是，你可能会把对方的某些行为理解为具有进攻性和侵略性，但实际上，从对方自身的角度来看，这些行为可能是出于防御目的。
此外，至少在美国，我们现在是一个政治分裂非常严重的国家。我认为，即使只是在美国国内制定良好的人工智能政策，我们也必须减少这种分裂。而要做到这一点，就需要我们更加善于理解政治立场不同的人究竟在想什么。
有一个术语可以用来描述这种能力，那就是“认知同理心”。它指的是理解别人内心的想法和看待问题的角度。这并不意味着你一定要同情对方，更不意味着你必须赞同对方。它只是意味着，你能够理解对方的立场。因为如果你能够理解另一方的立场，那么在非零和博弈中，你就更容易找到一种双方都能获益的结果。
我认为，生物演化在人类身上留下了一些根深蒂固的认知偏见。这些偏见有时会让我们难以合作，也让我们无法足够清楚地理解对方的立场，从而妨碍合作的实现。
因此，我们必须更加善于克服这些认知偏见。从某种意义上说，这听起来像是一个认知方面的技术问题，或者说认知调整的问题。但我认为，它实际上也是一场道德考验。因为能够以更加客观、更少自私、更少自以为是的方式看待世界，本身就是道德进步的重要组成部分。
这也让我们再次回到了我为什么把这本书命名为《造神之后》。我认为，从某种意义上说，这是一场精神层面的考验。而且，这场考验并不容易通过。尤其是，人工智能有可能像社交媒体一样，成为一种强化群体对立的技术。至少在美国，社交媒体已经在一定程度上发挥了这样的作用。
但与此同时，如果我们希望人工智能帮助人们更好地理解其他群体、其他国家和其他人的立场，那么从技术上来说，这完全是有可能实现的。
前提是世界各地的人们确实希望朝这个方向发展。我希望看到的是，人们能够跨越国界，自发地组织起来，加强彼此之间的交流。当然，我们需要企业领导人之间的对话，也需要政治人物之间的对话。
但除此之外，我也希望看到不同国家的普通民众能够建立联系，并且愿意努力加深对彼此国家的理解。这并不是不可能的。
此前就发生过一件很有意思的事情。在美国试图封禁TikTok的时候，当时有一家中国社交媒体平台叫小红书，对吧？那时候出现了一个很有意思的现象：一些美国用户开始使用这个平台，并且真正与中国用户交流起来。我当时就觉得，这太好了。为什么我们不能有更多这样的交流呢？所以，这种跨国民间交流完全是可能实现的。
观察者网：在当前美国社会，普通民众究竟怎么看待人工智能的发展？
罗伯特·赖特：根据民意调查，大多数美国民众希望放慢人工智能的发展速度，而不是继续加速。但与此同时，也有很多有权势的人希望加快发展，其中包括硅谷的许多人。
这些人在人工智能领域投入了大量资金，AI公司的相关人员当然也在其中。而目前的特朗普政府，又与硅谷的一些人士保持着非常密切的联系。因此，美国国内确实存在一些非常强大的力量，正在推动人工智能加速发展。
但是，如果现在让美国民众就这个问题进行投票，我认为，他们不会投票支持加速发展。这也是为什么美国国会中越来越多的人开始对人工智能的发展持怀疑态度。
而且，美国即将举行选举。如果民主党能够赢得国会参众两院的控制权，也就是由总统所属政党之外的另一个政党控制国会，那么我们可能会看到国会内部出现更强大的力量，推动放慢人工智能的发展。
当然，在美国的政治制度下，总统仍然拥有很大的权力。因此，这种变化最终能否真正实现，还有待观察。
但回答你的问题，美国民众目前确实非常担忧人工智能的发展速度。尤其是在过去几个月，随着一些人工智能安全事件的发生，这种担忧显著增加。
这也是为什么我认为，无论在美国还是中国，人们对人工智能的态度原则上都可能迅速发生变化，而且可能朝着不同的方向发展。
例如，未来可能有更多美国人发现人工智能带来了自己非常喜欢的东西，因此希望技术继续加速发展。但另一方面，我也认为，即使他们逐渐认识到人工智能的好处，他们也可能发现，实际上，当前这一代人工智能模型就已经能够满足他们的需求。
所以，我并不确定，这是否真的会让公众产生强烈的愿望，要求进一步加快人工智能的发展速度。
我们需要克服偏见，重新学习合作
观察者网：最后，我想请您谈谈对未来的期待。无论是短期还是长期，您认为我们应该做些什么？有没有一些比较具体、可行的建议？
罗伯特·赖特：我希望看到中美两国在各个层面展开更多对话。包括学术界、科学界，以及那些对人工智能发展速度感到担忧的企业界人士。
我认为，美国人工智能行业中有一些人非常适合参与这样的对话。例如，谷歌DeepMind的联合创始人德米斯·哈萨比斯（Demis Hassabis），我认为他就可能在这种对话中发挥建设性的作用。还有其他一些类似的人物。
除此之外，我也希望看到更多中国普通民众和美国普通民众之间的基层交流。他们可以讨论人工智能如何影响自己的生活。我希望这些交流能够逐渐积累起推动合作的力量。
因为从长远来看，我认为中美两国需要重新建立一种不久前曾经拥有过的关系。我希望那是一种更好的、双方联系更加深入的关系。两国应该更多地像友好国家、盟友之间那样相互对待。因为我认为，从长远来看，人工智能带来的挑战将使任何一个国家都无法仅仅依靠自身获得安全感。
如果一个国家不能比较清楚地了解其他国家正在如何发展人工智能，它就很难真正感到安全。毕竟，人工智能带来的负面影响很容易跨越国界。
而当你与另一个国家保持良好关系，并且在经济、文化和科学领域有着深入联系时，你自然就会更加了解那个国家正在发生什么。两国之间会有更多人员往来，企业领导人也会彼此交流。
这种关系会带来一种更加放松、更加自然的信任感，让人们相信，对方并没有在暗中从事某些极其危险的活动。因此，我认为，从长远来看，我们需要以一种更加自然的方式改善国家之间的关系。
我使用过一个概念，叫作“有机透明度”。它指的是，当两个国家在各个领域保持深入联系时，双方自然而然形成的那种透明度。
当然，从长远来看，整个世界都应该参与人工智能治理的讨论。但目前，人工智能领域的两个超级大国是中国和美国。而这两个国家之间的关系显然还有很大的改善空间，并且需要尽快改善。
我认为，我们越晚开始认真讨论人工智能的国际治理问题，最终的治理效果就可能越差。同时，我们也会越来越难以平衡其中各种复杂的因素。
例如开源问题。一方面，一定程度的开源能够促进权力分散，避免人工智能能力被少数主体垄断。另一方面，对最强大的人工智能能力实施一定程度的集中控制，也有其必要性。显然，这种控制权不应该掌握在任何一个国家手中。
此外，如果中美任何一方担心，另一方正在突破某个关键技术门槛，即将获得某种不可思议的超级智能能力，那么这种担忧本身就会构成危险。因为它会破坏稳定。它可能促使感到威胁的一方采取某种激烈行动，试图阻止对方继续发展。而这正是可能导致战争的情况。因此，我认为，我们越早开始这样的对话，就越好。
观察者网：通过《造神之后》这本书，您最希望向读者、向公众传达什么信息？
罗伯特·赖特：我最希望传达的信息是，首先，未来如果缺乏一定程度的国际协调与共同治理，一个国家将越来越难以实现真正的国家安全。
此外，我也希望提醒人们，人类确实存在一些根深蒂固的认知偏见。这些偏见总是让冲突中的双方都相信，自己是正确的，而对方是错误的。但双方不可能都完全正确。
而且，我认为，在大多数情况下，双方至少都有一些错误。因此，我希望鼓励人们反思自己的认知方式，反思自己究竟是如何看待其他人的。
我希望人们能够更加意识到自身的认知偏见。同时，也能够更加开放地看待这样一种可能性：即使是那些我们目前视为对手的群体，我们也完全有可能与他们开展合作。尤其是，随着合作背后的逻辑变得越来越清晰、越来越有说服力，这种可能性也会不断增加。
我认为，人工智能已经开始推动这一变化。
我想特别强调这一点。在写这本书的时候，每当我向别人谈起国际治理的必要性，他们往往会说：“你疯了吗？”尤其是当我谈到中国的时候，他们会说：“我们怎么可能与中国合作？”
但是，仅仅在过去几个月里，我就听到越来越多美国人开始讨论与中国进行国际协调的必要性。其中甚至包括一些当权者和和精英人士。
因此，我确实认为，人工智能将以前所未有的速度引起人们的关注，并改变他们看待世界的方式。我希望这种变化最终能够朝着建设性的方向发展。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
