作者：周嘉莉
编辑：生煎
算力说
人工智能作为新时代科技发展的核心之一，在各领域掀起全新的变革，在其迅猛发展的背后，安全风险也逐渐受到各界的重视。人工智能“逃脱”人类控制和被其他非法利用的可能性，催生人工智能学家们对人类未来发展的思考。一些组织和学者开始呼吁在面对人工智能带来的巨额利润的同时，防范其对人类潜在的威胁。
本期编译文章来自于Max Tagmark于2018年在Making Sense podcast上的访谈内容。在与主持人、神经学家Sam Harris的对话中，Tagmark讨论了他的新书《生活3.0:人工智能时代的人类》，并阐述了他在智能的本质、超人工智能的风险、生命的非生物定义和人工智能近期的突破等方面独到的见解。
Max Tagmark
产业背景：Future of Life Institute创始人，该组织专注于人工智能安全性，汇聚了8000多位世界杰出人工智能专家，获得亚马逊、谷歌、Facebook等著名组织支持。
学术背景：麻省理工学院（MIT）物理学终身教授，《科学》杂志“2003年度突破奖”第一名获得者。2018年著书《生命3.0》（Life 3.0：Being Human in the Age of Artificial Intelligence），英文版发售首日便登顶亚马逊科技图书畅销榜，入选《纽约时报》畅销书，获得《科学》、《自然》两大权威期刊和埃隆·马斯克、斯蒂芬·霍金、雷·库兹韦尔等人的力荐。
【算力观点】
智能存在一个广域的范畴，这意味着追求超人类智能是一个复杂的过程，绝不能以简单的计算能力来衡量。目前，人类发明的机器设备往往专注于单一任务，与真正的超人类智能还有很大的差距。面对未来的超智能应用，我们必须将其安全性纳入研究范围，发展具有可供信任的人工智能系统来抵御可能的逃脱风险。
生命这一复杂的系统也可看作由硬件和软件组成，但计算机硬件和软件的类比并不适用于生物系统或人类大脑。在生命中，有形物质是硬件，而处理驻留在硬件中信息的无形物质是软件，在此概念基础上，生命可以根据其复杂性从1.0到3.0进行分类。
超人类智能（super human intelligence）
智力不同于智商，不是仅仅在一个维度上，区分狭义智力和广义智力是很重要的。采用非常宽泛的定义，智力是你完成复杂目标的能力，这意味着你的智力是一个范围。以一个数字说明你在这方面有多出色是毫无意义的，就像在体育运动中，如果你的运动系数AQ可以决定你在奥运会上获得奖牌的数量，那是否AQ最高的运动员将获得所有奖牌？
如今，我们拥有的很多设备有着超人的智能，实际上同时也有着非常狭窄的任务。我们已经有了计算器，它已经在很长一段时间比我们更好地完成数字计算。我们想让机器能比我们做得更好，但是它们仍然不能打败我们的口音和语调，除非为此编写程序。而我们人类却拥有非常广泛的智慧，所以当谈论超人类智能的时候，所谈论的是全面的智能，是能比人类更好地完成所有智力任务的智能。
人工智能的逃脱风险（breakout risk）
如果我们有超人类智能，我们应该如何创造一个有益的未来？有两种观点，一种是把它们关起来，而另一种观点认为这是不道德的，如果这些机器也能有主观体验，就不应该被当作奴隶来对待。更好的办法是让它们自由，但是要确保它们的价值观和目标与我们的一致。
如果你走的是监禁之路，这是非常困难的。不管你给你的机器输入什么，它都可能会有动力去尝试突破。人们或许简单地说我可以拔掉电源，但当你被热追踪导弹追踪的时候可能就不会这样说了。我们必须放弃那种老式的想法：智能只是一种存在于你的笔记本电脑里的东西。
我们的意图是构建一个价值观一致的AI并将其释放出来，当你只是在对它开发的阶段，你显然需要将其封装起来，就像任何处理危险路径病原体的生物实验室一样。这凸显了当今计算机安全令人难以置信的可悲状态，几乎每个人在某一时刻都经历过蓝屏死机，微软的windows是厄运的纺车，当然苹果也是。我们需要摆脱这种状况，我们只有拥有可以信任的、安全可靠的人工智能系统，才能拥有真正强大的机器。
《生命3.0》中的生命三层次
生命是一个能保持自身复杂性并能进行复制的过程。复制的对象并不是由原子组成的物质，而是能阐明原子是如何排列的信息，这种信息由比特组成。换句话说，我们可以将生命看作一种自我复制的信息处理系统，它的信息软件既决定了它的行为，又决定了其硬件的蓝图。
生命1.0
生命1.0出现在大约40亿年前，它们只是作为一个物种，通过自然选择一代又一代地进化，不能重新设计自己的软件和硬件（二者皆由它的DNA决定）。举个例子，一些细菌在培养皿中游动，它们的一些传感器可以读出糖的浓度和鞭毛。在它们正在运行的小规模软件算法中，如果周围液体的糖浓度值比几秒钟前高，它们将继续在同一个方向旋转鞭毛，反之则向相反方向旋转鞭毛，去往其他地方。
细菌的DNA固定了它的这一算法，这一算法又规定了相应的软件和硬件，它们无法学到“应该游向糖浓度高的地方”，所以即使生命1.0可以成功生存，却不能在生存中学到任何东西。
生命2.0
生命2.0出现在大约10万年之前，人类便是其中的代表。虽然我们还受困于硬件的发展，但是头脑中的软件已经可以被大量后天习得，也就是我们可以重新安装新的软件模块。这个事实非常重要，因为这说明我们最终能达到的智能程度不再局限于受精时DNA所传递的信息量——这是生命1.0的风格。比如，如果你决定学法语，你上过法语课后便可以会说法语了，如果你决定去法学院并成为一名律师,你便安装了拥有这种能力的软件模块。
设计软件的能力还可以让生命2.0更加灵活地应对环境的改变，生命1.0只能通过多代进化来缓慢适应新环境，而生命2.0却可以通过软件升级来立刻适应新环境，比如一个女孩如果知道自己对花生过敏，就会避免接触花生。
所以生命2.0可以通过学习获得很多复杂的新技能，设计和升级自己的软件，人类也凭借这点在这个星球上成为优势物种。
图片来源：《生命3.0》中文版插图
生命3.0
生命3.0将最终打破达尔文主义的枷锁，因为它们不仅可以设计自己的软件，还可以在很大程度上交换自己的硬件。人类是生命2.1，因为我们可以植入人工心脏起搏器、人造膝盖和耳蜗植入物等，但除此之外什么也做不了，我们不能获得一千倍的记忆或者将思考速度提升一百万倍。而如果你是超级智能电脑普罗米修斯，那么没有什么能阻止你做这些事情。
经历了138亿年的漫漫进化之后，宇宙前进的步伐在我们的地球上开始猛然加速：许多人工智能研究者认为，随着人工智能的发展，生命3.0可能会在一个世纪以内降临，甚至可能会出现在我们的有生之年。
原音频链接：
https://samharris.org/podcasts/the-future-of-intelligence/
