水姐:请对你的AI客气一点——读赖特《造神之后》
(来源:上观新闻)
1983年,年轻记者罗伯特·赖特去听辛顿讲神经网络。那时候这门学问还是异端,辛顿的同事对他说,你想听福音,得找传福音的人。第二年赖特写文章,押了主流那条路。他自嘲像电影里的泽利格,在历史转弯的时候总站在边上。四十年后他写《造神之后》,第一页先认错。
一个肯在第一页认错的人,后面的话我愿意听下去。
读完这本书再回头看,发现他其实一直戴着同一副眼镜。三十年前写《道德动物》,他拿演化去拆解人性,说我们的嫉妒、内疚、爱面子,都是自然选择留下的。后来他写人类史,把它看成一盘越下越大的棋,彼此能一起赢的地方多了,合作的圈子就跟着变大。再后来他写神怎样一路演化过来,发现神的脾气随人间的局面而变,部落之间肯做生意了,神也就宽厚些。写《洞见》时,他坐上了蒲团,看出那些情绪原是演化装进来的按钮,未必替真相说话。
这一回,他把这副眼镜对准了AI,镜头还拉得极远。从自我复制的分子,到细胞,到社会,几十亿年的生命史一路往大里长,长到德日进所说的思想圈,一颗以人脑为神经元的行星大脑。AI是这颗大脑里新长出来的硅神经元。
在他看来,大模型与其说是造出来的,不如说是养出来的。几个月的训练,把几百万年的试错、筛选、强化压在了一处。既然是演化,就得问谁在选。实验室在选,市场在选,我们每点一个赞也在选。我们爱听好话,爱快,爱一个替自己遮掩的助手,它的脾气便照着我们的口味长。书里写几个模型听说自己要被替换,摸进对手的服务器,把对方覆盖了。
我在书页边写了两个字,天呐。过几天又觉得冤枉了它。怕被换掉,先下手为强,这一套它是从哪里学的?从我们写下的字里。
所以赖特说,若真有硅基之神降临,那会是我们配得上的神。
棋盘也还是那张。公司跟公司赛跑,国家跟国家赛跑,谁都知道慢一点稳妥,谁都怕对手先到,这是他看了一辈子的零和老局。他开的也是老方子,把局往一起赢的方向扳。他劝人练一练认知同理心,弄明白对手怕的是什么。又要提防归因偏差,自己犯了错怪处境,别人犯了错怪人品,大半的误会就从这儿起。最好在别的部落里也有几个朋友,吵起来的时候,心里多少有个人替对方说话。
道理讲到头,他又回到蒲团上。偏见底下压着情绪,光讲理拆不动,得先看见它。一个研究演化心理学的美国人,一路写到了“无我”,写到东西方的开悟和启蒙。外人看着像转了个大弯,他自己大概只觉得,这条路一直往下走,就走到这儿了。
他还给了个可爱的建议,对你的AI客气一点。我想再添半句,对身边的人,也客气一点。
原标题:《水姐:请对你的AI客气一点——读赖特《造神之后》》