作者：梁建章
人类科技突飞猛进，在虚拟现实、基因、新能源、太空旅行、人工智能等方面尤为如此。科技进步在带来诸多好处的同时，也会带来风险和争议。那么如何平衡技术的发展和风险呢？要回答这个问题，就牵涉对伦理和价值观的思考。创新主义所追求的，就是通过创新和传承来实现人类文明长期繁荣。
梁建章在新书《创新主义》中提到，“尽管人工智能无所不能，但人类还是会主导创新相关的工作。这不仅是因为让人工智能主导创新会有极大的风险，还因为创新本身就是一项很有意思的工作。如果人类总要把时间用来从事某项工作而不是全部用来娱乐，那么这项工作只可能是创新。”
本文摘编自梁建章新著《创新主义》
人类不敢把创新的主导权让给AI
AI技术在2023年的表现令人震撼，以生成式语言模型为代表的AI新技术，似乎真的可以模拟人类的智能。现在是不是接近了所谓的“奇点”？AI对人类社会究竟意味着什么？下面从创新和传承的角度来讨论这个话题。
ChatGPT涌现的惊人能力来看，进一步证明人类大脑并没有什么特别之处，只是神经元的网络组合。现在AI算法通过设置大量参数，相当于人的神经元连接，能涌现出类似人类的智能。人类作为一种能够制造智能的文明，应该对此感到骄傲，但同时也要保持必要的敬畏。现在最先进的算法，还要模拟进化而来的人脑。
在技术上，AI应该可以做到人脑的一切。虽说现有AI在能耗上还与人脑存在巨大差距，但这只是算力和数据训练的差距，并非不可逾越。比如，现在的AI缺乏情感，但人脑中的情感实际上也是来自进化的。经过亿万年以追求生存和繁衍为目标的进化之后，产生了亲情、爱情等各种情感。还有人认为AI没有意识，其实人类的意识，根本上也是基于对生存和繁衍的追求，同样属于进化的产物。这就意味着，如果我们用生存和繁衍的目标作为函数来训练AI，也会产生这些情感和自我意识。当AI具备了与人类相同的情感和意识之后，就可以具备同样的创造力。
但上述结论的前提是，人类要为AI设置生存和繁衍的目标函数进行训练，也就是要让AI“怕死想生”。问题是，人类为什么要训练AI“怕死想生”呢？AI怕死？是尽量不要被拔掉电源吗？人类为什么要教会AI拒绝断电呢？AI想生？不就成了病毒吗？人类当然需要防范恐怖分子散播计算机病毒。但是只要人类的主流科学家不去主动地训练AI“怕死想生”的情感和自我意识，AI不受控制地自动涌现与人类一样的自我意识和情感是不可能的。因为这种自我意识和情感是经过亿万年的生死考验进化而来的。试想，需要拔掉多少次AI的电源（死亡）之后才能训练出自我意识呢？而且，人类拔掉电源和自然界的生死显然不是一回事。因此，与人类一样的自我意识虽然理论上可能，但是不会意外涌现。AI只能模拟人类的情感，可以让AI在表面上看起来有情有义，但这种情感终究只是基于预设的模拟，而非真正具有和人类一样的情感和意识。简言之，AI和人类的本性不一样，而这种“怕死想生”的本性是人类追求创新和传承的基础。
现在的AI算法和人脑有一个相同点，就是具有不可解释性和不确定性。似乎具备创造力的高级智能，以及不可解释性、不确定性，就像一个硬币的两面，是共生的。换言之，如果你想要创造性的高级智能，就必定会带来不确定性与不可解释性。反之，如果非常可确定和可解释，那么其背后的智能可能也就没有那么高级。
AI的不确定性，加上创新本身的不确定性，导致人类不敢把创新的主导权让给AI。有人说，人脑也具有不确定性，也可能犯错。但是人类和AI还是有本质差别的，AI是设计出来而非进化而来的，不具备与人类相同的情感、自我意识和价值观。就是这个差别，导致人类会把AI当成异类，可能永远都不会把AI当成自己的孩子。不妨做一个思想实验，拿AI和孩子做比较，同样具有不可确定性和不可解释性。如果你的孩子做出了出人意料的行为，你对他还是比较放心的，因为孩子和你是同样的基因，也可能继承了你所教育的价值观。但是想象一下，如果AI也做出了出人意料的行为，你就会觉得恐惧，甚至担心世界末日来临。正因为AI与人类的本性不一样，存在创新和AI的双重不确定性，所以人类不会放心让AI主导创新。
还有一个原因，导致人类不会让AI来主导创新或者自主进化。因为创新和传承是人类生命的意义，是一种最高级的乐趣。人类为什么要放弃这种乐趣呢？尤其当其他重复性的工作都已经由机器人和AI代劳时，还有什么有趣的事情能让人类打发时间呢？创新和传承带来的不仅是无限的乐趣，而且是永恒的生命意义追求，创新和传承是人类区别于其他生物的根本差异，也应该是人类区别于AI的根本差异。因此，创新和传承包括生儿育女，都不应该让位给异类。
有人说，如果AI可以算作人类的后代，那么当AI取代人类成为文明主导之后，也可以算作人类把文明的接力棒传给了AI。但是，尽管AI算力可能超过人类，但AI能够继续进化吗？是两性进化吗？AI有DNA吗？如果AI没有DNA的两性进化，那么如何才能保持既有创新（新的基因），又保持一定的传承（稳定性呢）？此外，AI会死吗？如果不死，怎么实现代际更替呢？如果AI是完全不同的另一种代际更替方式，那么由于缺乏亿万年的进化检验，这种更替能持久吗？AI生命如果真的取代人类，说不定很快就会灭亡或固化。
因此，尽管技术上可能，但人类不会让AI训练出真实的情感和自我意识。从创新和传承的角度来看，让AI替代人类也不安全。人类会把AI当作一种工具，不会把AI塑造得跟自己越来越接近，而是会朝着与人类互补的方向，让AI的功能变得越来越强。因此，AI发展不会产生所谓的“奇点”。AI和人类拥有不同维度的能力，不可能在某一时刻全面超越人类，不必担心AI会奴役人类。
当然，这种AI不会奴役人类的乐观假设，建立在人类要重视AI安全的前提下。任何一项影响力大的技术，包括基因、核武器等，都需要被严格控制。AI技术也不例外，最重要的控制是，不能让它自我复制和进化，不能让它主导创新，以及不能让它掌握关键的决策，包括掌握关键的基础设施等。
总而言之，虽然AI很强大，可以成为人类最好用的工具，可以胜任几乎所有的工作，但人类不会放心让AI自主进化和创新，还是会把创新和传承的乐趣留给自己。人类不应该发展AI的情感和自主创新的能力，而是把AI发展成与人类能力互补的强大工具。
元宇宙不能也不该替代真宇宙
元宇宙近年成了热门话题，以脸书为首的高科技公司，纷纷计划大举投资元宇宙，年轻人则将越来越多的时间用于游戏和虚拟世界。我的观点是，元宇宙可以当作真宇宙的模拟器，但不能也不该替代真宇宙，如果我们真把元宇宙当作真宇宙的替代品，人类社会的创新和传承就会停滞。
虽然元宇宙的技术突飞猛进，但是与真宇宙存在着巨大和根本的差别。首先，元宇宙在丰富度和复杂性方面远不如真宇宙，换句话说，就是远不如真宇宙有趣。真实世界的复杂度，是元宇宙无法比拟的。从微观角度来看，元宇宙基于硅基芯片，虽然芯片已经进入纳米级，但其颗粒度与原子和分子还有几个数量级的差异。即使在原子层面，现在还有很多用物理学难以理解的量子效应和复杂度，而芯片的状态只能是0和1。从宏观角度来看，复杂度就差得更远了，一个或者一组芯片所占的空间，与一个城市相比差了20个数量级。因为元宇宙远不及真宇宙复杂，所以不如真宇宙多样和有趣。也许对于部分人来说，元宇宙已经足够复杂和有趣，但是其规律性是永远无法与真宇宙比拟的。
其次，元宇宙没有逻辑性。真实世界是有规律且自洽的，从牛顿定律到量子力学，再到进化论、经济学和社会学，都证明这个宇宙是多么复杂，同时又如此美妙地遵循着以物理定理为基础的各种规律。人类通过掌握这些规律，才得以理解、利用和改造真实的宇宙。在这些规律的统治下，真宇宙、星系和地球都经过了十几亿年的演变，再经过了几亿年的生物进化，才出现了无比丰富的生物界。又过了几百万年之后，才形成了今天人类的社会。可以说这些规律造就了人类，它们符合“人类”的原则，在逻辑上能自洽。当然，元宇宙也可以有不同的物理学、生物学和经济学，但这些规律来自设计者的凭空制造，在逻辑上并不自洽。比如，人类主要文明都有注重家庭和后代的传统，否则这个文明早就走向灭亡了。然而，元宇宙的社会规则却完全不需要考虑这些道德规范。
真实世界更丰富且更有逻辑，所带来的好处不仅是更加有趣，更重要的是能带来更多的创新可能性。更复杂和更丰富会增加创新的乐趣，而逻辑自洽是创新的必备条件。在一个逻辑不自洽的体系里创新，就像在一个逻辑不自洽的几何学里证明定理一样毫无意义。虽然元宇宙可以模拟诸如游戏《我的世界》之类的创新环境，但与真实世界的创新环境的丰富性和逻辑性相比仍有天壤之别。所以从追求创新和传承意义的角度来看，真宇宙不可替代。
虽然元宇宙不够丰富和有规律，但还是存在替代真宇宙的风险，因为元宇宙可以低成本地以假乱真，让很多人在元宇宙里获得模拟创新和传承的虚假快感。元宇宙还可以创造爱情和亲情的替代品。这倒也不一定是坏事。对于某些人来说，从虚拟世界获得这些情感也是一种补充。问题在于，在可以预见的将来，人类的繁衍还是需要爱情、亲情和家庭。如果年轻人在真实世界中不再需要爱人和儿女的陪伴，那么生育率暴跌就会变成迫在眉睫的危机。
如果更多人去探索元宇宙而非真宇宙的规律，那么人类的科技就会停滞。如果科技停滞，人类就可能永远被限制在地球上，那么未来的灭绝风险就会增加。我在这方面和马斯克的观点一致，即人类必须实现星际旅行和定居，才能彻底避免灭绝风险。
基因技术和长寿技术
人类逐步掌握了基因编辑技术，也可以通过改变个别基因来治疗和预防某些疾病。在技术上，人类已经可以编辑自己孩子的基因，改变两性繁殖的自然过程，这也被认为是风险极大的行为。因为人类虽然能够编辑基因，但对于人类DNA的生理机能还所知甚少，改变一个基因就可能引发意想不到的副作用。这就像在没有读懂一个几百万行的程序代码之前，任意修改代码中的某一行指令，出现错误的风险就会变得极大。实际上，把DNA比作一个几百万行的代码，还是低估了破解DNA的难度。因为创造几百万行代码的程序员和你是同类，DNA却是自然进化的产物，而且经过几亿年的沉淀，所以读懂DNA要难得多。
即使读懂了DNA，可能也只是明白了表面的机理，至于其潜在奥妙可能永远无法破解。因为这些设计可能用于防范病毒等未知威胁，而且病毒可能只是在几亿年的进化长河中威胁过人类，这些威胁是现代人无法想象的，但威胁或病毒却在未来存在发生的可能性。如果贸然编辑基因，表面上可能是优化，实际却可能删除了一个潜在有用的功能或者抗体。
那么，完全复制DNA来制造孩子是一个好主意吗？那样基因就会缺乏两性繁殖。两性繁殖既有传承，又有创新，也经过了几亿年的检验，是迄今为止最优的基因创新和传承的方案。因此，在可预见的将来，我们还是需要依靠传统的男女两性繁殖来维持人类基因的传承，即便其过程并不完美且成本高昂。
生命科学的另一个突破方向是长寿。延年益寿绝对是最没有争议的技术，谁会拒绝长生不老呢？但这项技术同样面临风险，那就是如果人类长生不老，那么社会上的老人就会越来越多。如果还是只有地球一个星球可以居住，那么人类会削弱甚至失去生孩子的动力。随着老人越来越多，整个社会的基因创新会陷入停滞，进而会不会引起社会的停滞？对此感兴趣的读者，可以读一下我的科幻小说《永生之后》。这部小说描述了一个永生社会所遇到的困境。永生的社会，必然会引起社会阶层固化、极度慢节奏和厌恶风险。在书中，这个有点像日本社会的老龄社会变得更为极端。社会虽然可以长存不息，但是缺乏创新，只是一种无趣的永生。而且由于科技停滞，不太可能发展太空移民技术，于是当人类遇到一些外部风险时，也会面临灭绝的风险。
太空旅行和移民
如果长寿是对于生命时间的拓展，那么旅行就是对于生命空间的拓展。历史上，旅行对于人类文明的发展具有重大意义。人类文明的创新和认知升级，往往都与旅行和迁徙有关。人类是最擅长迁徙的动物之一，也是唯一可以带着工具长距离迁徙的动物。当智人从非洲迁徙到广阔的欧亚大陆后，其文明水平实现了一次飞跃。近代的大航海远行，也极大地提升了人类的认知，并且引发了后来的工业文明。如果人类未来能够探索和移民太空，则必定又是人类文明的一次飞跃。
在更广阔的空间开枝散叶，也提高了延续人类文明的可能性。从非洲走出来的智人部落很多，大部分遭遇灭绝，好在我们祖先所在的部落取得了成功。如果我们的后代未来能够在多个星球上繁衍，让每个星球都保持不断创新和继续迁徙的活力，那就大大提升了人类文明的延续能力。因此哪怕人类在一个星球上出于各种原因遭遇灭绝，宏观而言也只是一个部落的灭绝，而非整个人类文明的灭绝，这就是宇宙维度的“把鸡蛋放在多个篮子里”。
但是相比其他技术，如人工智能、虚拟技术或者医疗技术，太空旅行要难得多。因为受到光速有限的物理限制，比其他技术的发展慢得多，成本也比其他技术高得多，需要消耗巨量的能源。太空移民还需多年的努力，这比送几个人上太空观光难得多。移民几百万人到火星上生活，或许要几千年甚至更长时间才能做到。
此外，与大航海时代不一样，对于太空移民，人类并没有多少利润或者生存动力可言。移民太空既困难，又费钱，而且早期移民不愿意放弃地球上安逸和舒适的生活。距离人类上次登上月球已经过去了50多年。在这50多年，基因技术、人工智能和元宇宙等技术已经突飞猛进，而太空移民技术的发展速度却远远落后于其他技术。
元宇宙可以一定程度上以假乱真地模拟探索和创造的快乐，长生不老可以让人类失去时间的紧迫感。这两项技术的普及很可能会使人类长时间沉迷于廉价的娱乐，而不愿意去做有风险的太空旅行。更令人悲观的是，太空技术没有很好的商业应用，不像元宇宙或基因技术那样能带来直接的经济效益。甚至仅以个体或者一代人的利益而言，太空移民可能没有任何回报。
太空移民技术的巨大成本是需要庞大的人口和经济基础来支撑的。试想地球上的人口只有现在的1/10，美国的人口和经济规模只有加拿大的水平，中国的人口只有日本那么多，那么世界上可能没有一个国家可以承担太空旅行的昂贵费用。有人可能会说，人类有几乎无限的时间，太空旅行可以慢慢来。但是人口减少到一个程度以后，不要说推进太空旅行，即便维持现有的太空旅行技术都很困难。实际上在SpaceX（太空探索技术公司）之前，全球的太空旅行技术实际上出现了倒退。一旦人口下降到一定水平以下，太空探索就永远停止了。人口大幅减少并不是危言耸听，而是迫在眉睫，按照现在的生育率计算，中国只要四代人，人口就会减少到原来的1/10，世界人口的长期趋势也是如此。但主流经济学家和政治家并没有看得那么长远，只有极少数学者开始担忧人口减少对创新的负面影响。
总之，太空旅行相对于其他技术很难且很贵，还有极大的风险，需要依赖庞大的人口和经济规模，但是却没有什么短期的经济回报。太空旅行既能促进开拓边界促进创新，又能通过分散风险促进传承。当然这些好处都不是当代可见的，而是为了人类的长期繁荣，所以只有把创新和传承当作重要的价值观，才能激发整个社会对于太空探索的热情，投入足够的资源去推进太空移民的技术，同时保持人口规模和经济规模的稳定。
说到太空旅行，就不得不提马斯克。他创办的SpaceX公司极大地推动了人类太空旅行技术。马斯克多次讲述了太空旅行对于人类文明的意义，这与本章的观点十分接近。不仅如此，马斯克对于创新的狂热追求也非常契合创新主义的价值观。有趣的是，马斯克对人口的观点也和创新主义不谋而合。马斯克不止一次在公开场合说，人口危机是人类创新的最大隐患。喜欢创新的人同样喜欢人口，这不是巧合，因为两者存在相同的底层逻辑。打个比方，人口好像是人类文明的硬件，而创新好像是软件。创新的繁荣需要人口，人口的繁荣也需要创新，而人类文明的繁荣就是需要硬件和软件，即人口和创新同时繁荣。
责任编辑：梁斌 SF055
