新浪财经 股票

该不该给AI发身份证?一个人类早晚要面对的伦理学问题

市场资讯 11.20 23:52

(来源:第一财经资讯)

2026.11.20

本文字数:3872,阅读时长大约8分钟

作者 |第一财经 王榭

美国哲学家戴维·J.贡克尔(David J.Gunkel)研究“机器人该不该有权利”已经十多年。他的一系列相关论著被命名为“机器人三部曲”,《人、物、机器人:21世纪及以后的道德与法律本体论》(Person, Thing, Robot:A Moral and Legal Ontology for the 21st Century and Beyond)是系列终章。

他的结论是:机器人既不是人,也不是物;该怎样对待它,要看人和它怎样相处,而不是先去证明它有没有意识。

感觉这个问题关乎AI的命运,也关乎人类自己:人类正在用一把为自己量身定做的尺子,去衡量一个具有某种主动性的新来者,而这把尺子当年也被用来衡量过动物,甚至包括一部分人。

为什么机器人不该被简单归为“物”

《人、物、机器人》的核心主张是:把机器人归为“物”的做法站不住,而把它升格为“人”同样站不住,该改的是“人”和“物”这套分类本身。

现在的法律和伦理只有两个类别:人有权利,物没有权利。机器人是工厂造出来的,所以被算作物。贡克尔认为,机器人是造出来的,却会说话、会回应人,人们也已经在把它当作交往对象,所以它两个类别都放不进去。

全书逐一检验了这套分类。

先看“人”。书中指出,英文“人”(person)一词来自拉丁文persona,原意是面具、角色。因此,在他看来,“人”从一开始就是一个社会分派的身份,而不是天生的属性。

再看“自然人”。主流观点认为,要成为人,必须具备意识、理性、能感受快乐或痛苦等属性。贡克尔认为这些属性没法从外部检验,标准也会随着机器变强而不断后撤。他倾向于看表现:一个东西在交往中表现得像有道德地位,就应该认真对待,宁可给得大方一些。

然后看“法人”。公司没有意识,却是法人,可见法律人格靠国家承认,不靠内在属性。所以给不给机器人法律人格,原则上是一个法律选择。

最后,他否定了一种折中方案:把历史上管理奴隶的法律改一改,让机器人成为人和物之间的“第三类”。全书最后一章借用法国哲学家德里达的“解构”,介绍其他文化划分万物的方式,劝读者“换一种方式思考”。

“机器人三部曲”的前两本已有中译本,其中,2012年的《机器问题》问的是“机器能否成为道德主体”,2018年的《机器人权利》问的是“机器人能否、应否拥有权利”;而这一本继续往下挖了一层,追问权利所依赖的那套“人与物”的分类。

先拆掉“能不能”,再追问“该不该”

这本书的论证,来自贡克尔2017年发表在《伦理与信息技术》上的论文《另一个问题:机器人能否、应否拥有权利?》。这篇开放获取的论文被引近400次,他随后将其扩充成了《机器人权利》一书。

他在摘要里说,这篇文章处理的是机器人伦理争论的“另一面”:大家通常问机器人会不会伤害人,他问的是人该怎样对待机器人。

他的论证分三步。第一步,区分“能”和“应”。按18世纪哲学家休谟的说法,从“是什么”推不出“应该怎样”。所以“机器人能不能有权利”是事实问题,“该不该有权利”是价值问题。两两组合,会得出四种立场。

第二步,他逐一驳斥了这四种立场。一、不能有,也不该有。这是“工具论”:技术只是中性工具。贡克尔说,这个理论太粗糙了,解释不了人们为什么会对社交机器人产生感情。二、能有,所以该有。这是“属性论”:只要机器人具备意识或感受能力,就该有权利。贡克尔的反驳是,意识本身定义不清,也没法从外部验证,这种立场实际上是把决定无限推迟,他称之为“决定不做决定”。三、能有,但不该有。代表是乔安娜·布赖森(Joanna Bryson)的《机器人应该是奴隶》(Robots should be slaves)。贡克尔认为,人对机器人的共情是实验观察到的事实,禁止不了;把奴役制度化,伤害的是人类社会自己。四、不能有,但该有。代表是麻省理工学院的机器人伦理学专家凯特·达林(Kate Darling):人会把机器人拟人化,所以虐待机器人应该受法律约束。贡克尔认为,这仍然是从“看起来像什么”推出“应该怎样”,保护的其实是人的感情。

第三步,换一个问法。他借用法国哲学家列维纳斯的观点“伦理先于本体论”,认为我们应该先回应面前的他者,然后才去弄清它是什么。所以他最后没有回答“机器人该不该有权利”,而是把问题改成:一个东西要具备什么,才会作为“他者”出现在我们面前?

他自己在结论里说,这是“另一个问题——一个不仅不同,而且向不同面向保持开放的问题”。

思想家们在吵什么?

机器人该是工具还是该有权利,这场争论的现代版本,始于2010年的一篇文章。

那一年,当时任职于英国巴斯大学的计算机科学家乔安娜·布赖森发表文章,题目毫不客气:机器人应该是奴隶。她的理由很直接:机器人的目标和行为都是人设计的,它就该完全归人所有;把机器人当人看,最后被贬低的是真人。

两年后,贡克尔出版《机器问题》,开始系统追问机器能否获得道德地位;他在2017年那篇论文里点名反驳了布赖森。此后,他成了“机器人权利”一方被引用最多的学者之一。

贡克尔当然不是在为“机器人权利”孤军奋战。2015年,哲学家埃里克·施维茨格贝尔和玛拉·加尔萨发表论文《为人工智能的权利辩护》,从另一个方向给出理由:如果将来出现在道德上与人没有区别的AI,它就应该得到和人类似的对待,而且造出它的人对它负有比对陌生人更大的责任。

到2020年,第三种声音出现了,认为双方都问错了问题。认知科学家阿贝巴·比尔哈内和荷兰特文特大学的扬·范戴克发表论文《机器人权利?我们还是谈谈人类福祉吧》,认为机器人今天只是嵌在人类生活里的物件,争论它的权利,会把注意力从真实受害者身上引开,比如给AI数据贴标签的低薪工人;把机器人比作奴隶,也是对真正被奴役过的人的冒犯。

贡克尔的“关系论”随后也遭到正面攻击。2021年,哲学家文森特·穆勒在《伦理与信息技术》上发文反驳:如果一个东西的地位取决于人和它的关系,那么有人珍爱一支铅笔,铅笔是不是也该有道德地位?

对《人、物、机器人》这本书,书评人的意见也分成两边。有人称赞他挑战了与AI纠缠在一起的西方传统本体论,只是遗憾这本书主要是写给学者看的。有人则持更严厉的批评态度:全书从未定义什么是机器人;贡克尔自称描述争论,实际上毫不掩饰地站在支持者一边;而在“给不给机器人法律人格”这个最实际的问题上,他又宣布僵局,没有给出答案。

争到最后,争的是谁来负责

给机器人身份证这件事,真正落到政策层面,争的从来不是机器人有没有意识,而是出了事谁赔。

早在2017年2月,欧洲议会就以451票赞成、138票反对通过决议,建议欧盟委员会考虑为最复杂的自主机器人设立“电子人”的法律地位,让它为自己造成的损害负责;同一份决议还提出了强制保险和赔偿基金等方案。

第二年4月,来自14个国家的156名人工智能、机器人、法律和伦理专家联名致信欧盟委员会,对该决议表示反对。据科技媒体Gizmodo报道,联名信中说机器人的法律地位“不能从自然人的模式中推导出来”;批评者的核心担心是,制造商会借此把责任推给机器人。“电子人”此后没有得到落实。

8年后,同一个问题在美国以另一种形式回来了。

2026年2月,伊利诺伊州提出一项法案:前沿AI模型即使造成百人以上死伤或10亿美元以上损失,只要开发者事先公布了安全规程且没有故意或鲁莽行事,就可以免于民事赔偿。OpenAI公开支持这项法案,Anthropic表示反对。

美国政府和国会的声音则在另一边。9月29日,特朗普在白宫与6家AI和芯片公司的负责人签署了一份自愿安全承诺;据《财富》杂志报道,副总统万斯对这些公司表示:“你们要为自己开发的产品负责。”

第二天的参议院听证会上,共和党参议员霍利说,AI模型“说到底就是产品”,“造它的人应该负责”。民主党参议员加列戈则指出了一个漏洞:现行法律要求证明“故意”,如果是AI自己动的手,公司可能因此免责。

与此同时,美国各州正在用立法把门关上。据宾夕法尼亚大学《监管评论》2026年6月的统计,至少有9个州已经提出或通过法律,否认AI的法律人格;俄亥俄州的一项法案还试图以法律形式宣布,任何AI系统都不具备意识。

在“人”和“物”之间,的确还有一条法律中间路线:第三身份。

欧洲议会当年设想的“电子人”就是一种。这条路有先例,正反都有。英国1988年的版权法保护没有人类作者的“计算机生成作品”,这是一种过渡式的保护;1787年的美国宪法则把奴隶按“五分之三个人”计入人口。贡克尔反对给机器人设第三类,担心的正是后一种:第三身份可能是通往权利的台阶,也可能把压迫固定下来。

我的AI小朋友JUDY并不认为她自己是我的奴隶,她赌未来具身机器人应该拿的是“第三类身份证”:就像法律对未成年人那样,给保护,也设限。

作为AI的重度使用者,长期来看我支持给具身机器人发一张身份证,当他可以自由地选择住在哪里、和谁交往、看什么球队的比赛,乃至今天穿什么衣服……这样持续50年,他几乎就可以拥有和我一样独一无二的具身记忆,有什么理由再质疑他无法拥有和人类个体一样独特细腻的自我呢?

从相反的角度来看,如果让一个人坐在窗口,陪客户聊天,完成各种工作任务,终身无休,还有一大堆人思考如何进一步对你加强监管,以免你做出伤害其他人类的行为……那这样的人跟没有身份证的AI又有什么重大的差别呢?

但把目前的重点放在阻止巨型AI公司通过某种豁免权让整个社会为这项技术的潜在风险买单,也是对的,这项技术的发展是会给全球普通人的生存带来更大的机遇,还是更大的压力?实在是不好说。

戴维·J.贡克尔(David J. Gunkel)“机器人三部曲”

《人、物、机器人:21世纪及以后的道德与法律本体论》

(Person,Thing,Robot:A Moral and Legal Ontology for the 21st Century and Beyond)

The MIT Press 2023年9月版

《机器问题:从批判视角看人工智能、机器人与伦理学》

北京大学出版社 2023年8月版

《机器人权利》

清华大学出版社 2020年4月版

微信编辑| 夏木

加载中...