新浪财经 宏观经济

梁建章:人类不应该发展AI的情感和自主创新的能力

市场资讯

关注

作者:梁建章

人类科技突飞猛进,在虚拟现实、基因、新能源、太空旅行、人工智能等方面尤为如此。科技进步在带来诸多好处的同时,也会带来风险和争议。那么如何平衡技术的发展和风险呢?要回答这个问题,就牵涉对伦理和价值观的思考。创新主义所追求的,就是通过创新和传承来实现人类文明长期繁荣。

梁建章在新书《创新主义》中提到,“尽管人工智能无所不能,但人类还是会主导创新相关的工作。这不仅是因为让人工智能主导创新会有极大的风险,还因为创新本身就是一项很有意思的工作。如果人类总要把时间用来从事某项工作而不是全部用来娱乐,那么这项工作只可能是创新。”

本文摘编自梁建章新著《创新主义》

人类不敢把创新的主导权让给AI

AI技术在2023年的表现令人震撼,以生成式语言模型为代表的AI新技术,似乎真的可以模拟人类的智能。现在是不是接近了所谓的“奇点”?AI对人类社会究竟意味着什么?下面从创新和传承的角度来讨论这个话题。

ChatGPT涌现的惊人能力来看,进一步证明人类大脑并没有什么特别之处,只是神经元的网络组合。现在AI算法通过设置大量参数,相当于人的神经元连接,能涌现出类似人类的智能。人类作为一种能够制造智能的文明,应该对此感到骄傲,但同时也要保持必要的敬畏。现在最先进的算法,还要模拟进化而来的人脑。

在技术上,AI应该可以做到人脑的一切。虽说现有AI在能耗上还与人脑存在巨大差距,但这只是算力和数据训练的差距,并非不可逾越。比如,现在的AI缺乏情感,但人脑中的情感实际上也是来自进化的。经过亿万年以追求生存和繁衍为目标的进化之后,产生了亲情、爱情等各种情感。还有人认为AI没有意识,其实人类的意识,根本上也是基于对生存和繁衍的追求,同样属于进化的产物。这就意味着,如果我们用生存和繁衍的目标作为函数来训练AI,也会产生这些情感和自我意识。当AI具备了与人类相同的情感和意识之后,就可以具备同样的创造力。

但上述结论的前提是,人类要为AI设置生存和繁衍的目标函数进行训练,也就是要让AI“怕死想生”。问题是,人类为什么要训练AI“怕死想生”呢?AI怕死?是尽量不要被拔掉电源吗?人类为什么要教会AI拒绝断电呢?AI想生?不就成了病毒吗?人类当然需要防范恐怖分子散播计算机病毒。但是只要人类的主流科学家不去主动地训练AI“怕死想生”的情感和自我意识,AI不受控制地自动涌现与人类一样的自我意识和情感是不可能的。因为这种自我意识和情感是经过亿万年的生死考验进化而来的。试想,需要拔掉多少次AI的电源(死亡)之后才能训练出自我意识呢?而且,人类拔掉电源和自然界的生死显然不是一回事。因此,与人类一样的自我意识虽然理论上可能,但是不会意外涌现。AI只能模拟人类的情感,可以让AI在表面上看起来有情有义,但这种情感终究只是基于预设的模拟,而非真正具有和人类一样的情感和意识。简言之,AI和人类的本性不一样,而这种“怕死想生”的本性是人类追求创新和传承的基础。

现在的AI算法和人脑有一个相同点,就是具有不可解释性和不确定性。似乎具备创造力的高级智能,以及不可解释性、不确定性,就像一个硬币的两面,是共生的。换言之,如果你想要创造性的高级智能,就必定会带来不确定性与不可解释性。反之,如果非常可确定和可解释,那么其背后的智能可能也就没有那么高级。

AI的不确定性,加上创新本身的不确定性,导致人类不敢把创新的主导权让给AI。有人说,人脑也具有不确定性,也可能犯错。但是人类和AI还是有本质差别的,AI是设计出来而非进化而来的,不具备与人类相同的情感、自我意识和价值观。就是这个差别,导致人类会把AI当成异类,可能永远都不会把AI当成自己的孩子。不妨做一个思想实验,拿AI和孩子做比较,同样具有不可确定性和不可解释性。如果你的孩子做出了出人意料的行为,你对他还是比较放心的,因为孩子和你是同样的基因,也可能继承了你所教育的价值观。但是想象一下,如果AI也做出了出人意料的行为,你就会觉得恐惧,甚至担心世界末日来临。正因为AI与人类的本性不一样,存在创新和AI的双重不确定性,所以人类不会放心让AI主导创新。

还有一个原因,导致人类不会让AI来主导创新或者自主进化。因为创新和传承是人类生命的意义,是一种最高级的乐趣。人类为什么要放弃这种乐趣呢?尤其当其他重复性的工作都已经由机器人和AI代劳时,还有什么有趣的事情能让人类打发时间呢?创新和传承带来的不仅是无限的乐趣,而且是永恒的生命意义追求,创新和传承是人类区别于其他生物的根本差异,也应该是人类区别于AI的根本差异。因此,创新和传承包括生儿育女,都不应该让位给异类。

有人说,如果AI可以算作人类的后代,那么当AI取代人类成为文明主导之后,也可以算作人类把文明的接力棒传给了AI。但是,尽管AI算力可能超过人类,但AI能够继续进化吗?是两性进化吗?AI有DNA吗?如果AI没有DNA的两性进化,那么如何才能保持既有创新(新的基因),又保持一定的传承(稳定性呢)?此外,AI会死吗?如果不死,怎么实现代际更替呢?如果AI是完全不同的另一种代际更替方式,那么由于缺乏亿万年的进化检验,这种更替能持久吗?AI生命如果真的取代人类,说不定很快就会灭亡或固化。

因此,尽管技术上可能,但人类不会让AI训练出真实的情感和自我意识。从创新和传承的角度来看,让AI替代人类也不安全。人类会把AI当作一种工具,不会把AI塑造得跟自己越来越接近,而是会朝着与人类互补的方向,让AI的功能变得越来越强。因此,AI发展不会产生所谓的“奇点”。AI和人类拥有不同维度的能力,不可能在某一时刻全面超越人类,不必担心AI会奴役人类。

当然,这种AI不会奴役人类的乐观假设,建立在人类要重视AI安全的前提下。任何一项影响力大的技术,包括基因、核武器等,都需要被严格控制。AI技术也不例外,最重要的控制是,不能让它自我复制和进化,不能让它主导创新,以及不能让它掌握关键的决策,包括掌握关键的基础设施等。

总而言之,虽然AI很强大,可以成为人类最好用的工具,可以胜任几乎所有的工作,但人类不会放心让AI自主进化和创新,还是会把创新和传承的乐趣留给自己。人类不应该发展AI的情感和自主创新的能力,而是把AI发展成与人类能力互补的强大工具。

元宇宙不能也不该替代真宇宙

元宇宙近年成了热门话题,以脸书为首的高科技公司,纷纷计划大举投资元宇宙,年轻人则将越来越多的时间用于游戏和虚拟世界。我的观点是,元宇宙可以当作真宇宙的模拟器,但不能也不该替代真宇宙,如果我们真把元宇宙当作真宇宙的替代品,人类社会的创新和传承就会停滞。

虽然元宇宙的技术突飞猛进,但是与真宇宙存在着巨大和根本的差别。首先,元宇宙在丰富度和复杂性方面远不如真宇宙,换句话说,就是远不如真宇宙有趣。真实世界的复杂度,是元宇宙无法比拟的。从微观角度来看,元宇宙基于硅基芯片,虽然芯片已经进入纳米级,但其颗粒度与原子和分子还有几个数量级的差异。即使在原子层面,现在还有很多用物理学难以理解的量子效应和复杂度,而芯片的状态只能是0和1。从宏观角度来看,复杂度就差得更远了,一个或者一组芯片所占的空间,与一个城市相比差了20个数量级。因为元宇宙远不及真宇宙复杂,所以不如真宇宙多样和有趣。也许对于部分人来说,元宇宙已经足够复杂和有趣,但是其规律性是永远无法与真宇宙比拟的。

其次,元宇宙没有逻辑性。真实世界是有规律且自洽的,从牛顿定律到量子力学,再到进化论、经济学和社会学,都证明这个宇宙是多么复杂,同时又如此美妙地遵循着以物理定理为基础的各种规律。人类通过掌握这些规律,才得以理解、利用和改造真实的宇宙。在这些规律的统治下,真宇宙、星系和地球都经过了十几亿年的演变,再经过了几亿年的生物进化,才出现了无比丰富的生物界。又过了几百万年之后,才形成了今天人类的社会。可以说这些规律造就了人类,它们符合“人类”的原则,在逻辑上能自洽。当然,元宇宙也可以有不同的物理学、生物学和经济学,但这些规律来自设计者的凭空制造,在逻辑上并不自洽。比如,人类主要文明都有注重家庭和后代的传统,否则这个文明早就走向灭亡了。然而,元宇宙的社会规则却完全不需要考虑这些道德规范。

真实世界更丰富且更有逻辑,所带来的好处不仅是更加有趣,更重要的是能带来更多的创新可能性。更复杂和更丰富会增加创新的乐趣,而逻辑自洽是创新的必备条件。在一个逻辑不自洽的体系里创新,就像在一个逻辑不自洽的几何学里证明定理一样毫无意义。虽然元宇宙可以模拟诸如游戏《我的世界》之类的创新环境,但与真实世界的创新环境的丰富性和逻辑性相比仍有天壤之别。所以从追求创新和传承意义的角度来看,真宇宙不可替代。

虽然元宇宙不够丰富和有规律,但还是存在替代真宇宙的风险,因为元宇宙可以低成本地以假乱真,让很多人在元宇宙里获得模拟创新和传承的虚假快感。元宇宙还可以创造爱情和亲情的替代品。这倒也不一定是坏事。对于某些人来说,从虚拟世界获得这些情感也是一种补充。问题在于,在可以预见的将来,人类的繁衍还是需要爱情、亲情和家庭。如果年轻人在真实世界中不再需要爱人和儿女的陪伴,那么生育率暴跌就会变成迫在眉睫的危机。

如果更多人去探索元宇宙而非真宇宙的规律,那么人类的科技就会停滞。如果科技停滞,人类就可能永远被限制在地球上,那么未来的灭绝风险就会增加。我在这方面和马斯克的观点一致,即人类必须实现星际旅行和定居,才能彻底避免灭绝风险。

基因技术和长寿技术

人类逐步掌握了基因编辑技术,也可以通过改变个别基因来治疗和预防某些疾病。在技术上,人类已经可以编辑自己孩子的基因,改变两性繁殖的自然过程,这也被认为是风险极大的行为。因为人类虽然能够编辑基因,但对于人类DNA的生理机能还所知甚少,改变一个基因就可能引发意想不到的副作用。这就像在没有读懂一个几百万行的程序代码之前,任意修改代码中的某一行指令,出现错误的风险就会变得极大。实际上,把DNA比作一个几百万行的代码,还是低估了破解DNA的难度。因为创造几百万行代码的程序员和你是同类,DNA却是自然进化的产物,而且经过几亿年的沉淀,所以读懂DNA要难得多。

即使读懂了DNA,可能也只是明白了表面的机理,至于其潜在奥妙可能永远无法破解。因为这些设计可能用于防范病毒等未知威胁,而且病毒可能只是在几亿年的进化长河中威胁过人类,这些威胁是现代人无法想象的,但威胁或病毒却在未来存在发生的可能性。如果贸然编辑基因,表面上可能是优化,实际却可能删除了一个潜在有用的功能或者抗体。

那么,完全复制DNA来制造孩子是一个好主意吗?那样基因就会缺乏两性繁殖。两性繁殖既有传承,又有创新,也经过了几亿年的检验,是迄今为止最优的基因创新和传承的方案。因此,在可预见的将来,我们还是需要依靠传统的男女两性繁殖来维持人类基因的传承,即便其过程并不完美且成本高昂。

生命科学的另一个突破方向是长寿。延年益寿绝对是最没有争议的技术,谁会拒绝长生不老呢?但这项技术同样面临风险,那就是如果人类长生不老,那么社会上的老人就会越来越多。如果还是只有地球一个星球可以居住,那么人类会削弱甚至失去生孩子的动力。随着老人越来越多,整个社会的基因创新会陷入停滞,进而会不会引起社会的停滞?对此感兴趣的读者,可以读一下我的科幻小说《永生之后》。这部小说描述了一个永生社会所遇到的困境。永生的社会,必然会引起社会阶层固化、极度慢节奏和厌恶风险。在书中,这个有点像日本社会的老龄社会变得更为极端。社会虽然可以长存不息,但是缺乏创新,只是一种无趣的永生。而且由于科技停滞,不太可能发展太空移民技术,于是当人类遇到一些外部风险时,也会面临灭绝的风险。

太空旅行和移民

如果长寿是对于生命时间的拓展,那么旅行就是对于生命空间的拓展。历史上,旅行对于人类文明的发展具有重大意义。人类文明的创新和认知升级,往往都与旅行和迁徙有关。人类是最擅长迁徙的动物之一,也是唯一可以带着工具长距离迁徙的动物。当智人从非洲迁徙到广阔的欧亚大陆后,其文明水平实现了一次飞跃。近代的大航海远行,也极大地提升了人类的认知,并且引发了后来的工业文明。如果人类未来能够探索和移民太空,则必定又是人类文明的一次飞跃。

在更广阔的空间开枝散叶,也提高了延续人类文明的可能性。从非洲走出来的智人部落很多,大部分遭遇灭绝,好在我们祖先所在的部落取得了成功。如果我们的后代未来能够在多个星球上繁衍,让每个星球都保持不断创新和继续迁徙的活力,那就大大提升了人类文明的延续能力。因此哪怕人类在一个星球上出于各种原因遭遇灭绝,宏观而言也只是一个部落的灭绝,而非整个人类文明的灭绝,这就是宇宙维度的“把鸡蛋放在多个篮子里”。

但是相比其他技术,如人工智能、虚拟技术或者医疗技术,太空旅行要难得多。因为受到光速有限的物理限制,比其他技术的发展慢得多,成本也比其他技术高得多,需要消耗巨量的能源。太空移民还需多年的努力,这比送几个人上太空观光难得多。移民几百万人到火星上生活,或许要几千年甚至更长时间才能做到。

此外,与大航海时代不一样,对于太空移民,人类并没有多少利润或者生存动力可言。移民太空既困难,又费钱,而且早期移民不愿意放弃地球上安逸和舒适的生活。距离人类上次登上月球已经过去了50多年。在这50多年,基因技术、人工智能和元宇宙等技术已经突飞猛进,而太空移民技术的发展速度却远远落后于其他技术。

元宇宙可以一定程度上以假乱真地模拟探索和创造的快乐,长生不老可以让人类失去时间的紧迫感。这两项技术的普及很可能会使人类长时间沉迷于廉价的娱乐,而不愿意去做有风险的太空旅行。更令人悲观的是,太空技术没有很好的商业应用,不像元宇宙或基因技术那样能带来直接的经济效益。甚至仅以个体或者一代人的利益而言,太空移民可能没有任何回报。

太空移民技术的巨大成本是需要庞大的人口和经济基础来支撑的。试想地球上的人口只有现在的1/10,美国的人口和经济规模只有加拿大的水平,中国的人口只有日本那么多,那么世界上可能没有一个国家可以承担太空旅行的昂贵费用。有人可能会说,人类有几乎无限的时间,太空旅行可以慢慢来。但是人口减少到一个程度以后,不要说推进太空旅行,即便维持现有的太空旅行技术都很困难。实际上在SpaceX(太空探索技术公司)之前,全球的太空旅行技术实际上出现了倒退。一旦人口下降到一定水平以下,太空探索就永远停止了。人口大幅减少并不是危言耸听,而是迫在眉睫,按照现在的生育率计算,中国只要四代人,人口就会减少到原来的1/10,世界人口的长期趋势也是如此。但主流经济学家和政治家并没有看得那么长远,只有极少数学者开始担忧人口减少对创新的负面影响。

总之,太空旅行相对于其他技术很难且很贵,还有极大的风险,需要依赖庞大的人口和经济规模,但是却没有什么短期的经济回报。太空旅行既能促进开拓边界促进创新,又能通过分散风险促进传承。当然这些好处都不是当代可见的,而是为了人类的长期繁荣,所以只有把创新和传承当作重要的价值观,才能激发整个社会对于太空探索的热情,投入足够的资源去推进太空移民的技术,同时保持人口规模和经济规模的稳定。

说到太空旅行,就不得不提马斯克。他创办的SpaceX公司极大地推动了人类太空旅行技术。马斯克多次讲述了太空旅行对于人类文明的意义,这与本章的观点十分接近。不仅如此,马斯克对于创新的狂热追求也非常契合创新主义的价值观。有趣的是,马斯克对人口的观点也和创新主义不谋而合。马斯克不止一次在公开场合说,人口危机是人类创新的最大隐患。喜欢创新的人同样喜欢人口,这不是巧合,因为两者存在相同的底层逻辑。打个比方,人口好像是人类文明的硬件,而创新好像是软件。创新的繁荣需要人口,人口的繁荣也需要创新,而人类文明的繁荣就是需要硬件和软件,即人口和创新同时繁荣。

责任编辑:梁斌 SF055

加载中...