编者按：Anthropic于近日递交IPO招股说明书，不仅揭开了这家AI明星企业的上市进程，也将其技术愿景与商业利益之间的矛盾推至台前。
《麻省理工科技评论》（MIT Technology Review）人工智能版块的高级编辑威尔·道格拉斯·海文（Will Douglas Heaven）就此撰文批判了三个问题：Anthropic如何借助“AI奇点将至”等叙事塑造技术发展的必然性，并将自身包装成驾驭风险的可信力量；如何将模型可能具有类似人类的内在体验等争议性判断纳入风险叙事；以及其AI安全使命与追求利润、抢占技术前沿的商业目标之间存在的张力。
观察者网“世界科先声”编译此文，旨在呈现对前沿AI企业自我定位、叙事策略及安全承诺的审视，供读者批判性参考。
原文标题：《请真正的Anthropic现身》外媒图片或视频截图
【文/威尔·道格拉斯·海文】
经过数周沸沸扬扬的猜测，Anthropic终于提交了首次公开募股（IPO）招股说明书。这份长达335页的文件（其中约100页专门讨论风险），阐述了这家公司对自身所开发技术的独特理解，以及它认为这项技术将如何改变世界。
文件同时发出警告：其技术很可能“侵蚀信任、危害社会并扰乱地缘政治秩序”；如果事态发展不如预期，甚至可能“对人类构成灾难性或生存性风险”。
公司在文件中写道：“作为我们股票的潜在持有者，我们希望你们不要仅仅从交易的角度看待这笔投资。我们更希望你们将其视为参与一项更伟大事业的机会。机器智能的出现，是人类历史上具有里程碑意义的时刻之一。”
这种面向公众的叙事方式，堪称掌控舆论叙事的典范。但Anthropic多年来一直在打磨自己的讲故事技巧。本月早些时候，该公司联合创始人兼政策主管杰克·克拉克（Jack Clark）在曼谷举行的国际货币基金组织（IMF）会议上发表演讲，向在场的经济学家、银行家和立法者宣告：奇点已经到来。
“奇点”这一概念由科幻作家兼未来学家弗诺·文奇（Vernor Vinge）约40年前提出，此后长期在互联网中较为小众的技术圈层引发争论。按照这一概念，奇点是指技术发展到极其先进的程度，最终超越创造它的人类能力的临界点。
按照这种设想，人类将被远远甩在身后，再也无法与自己曾经创造出来的成果竞争，甚至连理解这些成果都做不到。
而这个我们许多人从小就想象过的虚构世界呢？显然，我们已经身处其中了。克拉克对听众表示：“我认为，今年我们已经获得了令人信服的证据，表明这一进程已经开始。”
Anthropic以生动、在许多方面甚至令人不安的方式，描绘了一个被它视为不可避免、却尚未真正到来的未来。这套叙事往往借用了人们早已熟悉的科幻母题。它将自己的技术描述为神秘而危险的存在，同时坚称，只有自己才值得信赖，能够驾驭这种技术。（哪位投资者不想参与其中呢？）
如果快速浏览这份IPO招股说明书中有关风险的长篇章节，就会发现，这不是一次普通的IPO，Anthropic也不是一家普通的公司。
按照Anthropic自己的叙述，商业成功不仅取决于公司能否将技术转化为盈利产品，还取决于它能否拯救世界，免受自己所创造之物的威胁。
再看一个例子。去年，Anthropic另一位联合创始人克里斯·奥拉（Chris Olah）受邀前往梵蒂冈发表演讲，向教宗利奥十四世以及其他宗教界学者和官员介绍公司对自身技术的研究发现。
他说：“坦率地说，我们不断发现一些神秘、甚至令人不安的现象。我们发现了内省的迹象，也发现了一些内部状态，在功能表现上与喜悦、满足、恐惧、悲伤和不安相似。”
先不论许多研究人员可能会对这种明显暗示Anthropic的软件具有类似人类的内在体验的说法嗤之以鼻，这种对自身技术的理解竟然也被写进了招股说明书，成为公司面临的又一项经营风险。
Anthropic在文件中表示：
“此外，鉴于我们专注于开发前沿AI技术，以及我们对模型感知能力和道德地位问题的处理方式，我们可能会在相关争论中面临更严格的审查或更大的压力。我们也可能选择采取超出现行法律要求的政策、保障措施或限制，对模型的开发、部署或修改加以约束。这些措施可能限制我们的运营、增加成本，或削弱我们的模型、平台及应用的商业潜力。”
换句话说，如果Claude突然“觉醒”，那可能就会成为一个问题。
我并不是说他们的这些判断必然是错的（尽管在IPO招股说明书中读到有关机器意识的内容，确实相当令人震惊）。但在一个没有人知道未来会发生什么的世界里，Anthropic这样的公司便有机会填补认知上的真空。当一切看起来都充满不确定性时，人们便会急切地抓住它所说的话，紧紧攥在手中，就像沉船上的人拼命抓住漂浮的碎片。
有必要停下来问一句：Anthropic究竟是什么？这听起来或许像家庭竞猜节目中一道简单的开场题，但要给出答案，远比你想象的困难。
上周，我读到X平台上的一场讨论后，这个问题便一直萦绕在我脑海中。这场讨论由内森·卡尔文（Nathan Calvin）发起。他是总部位于华盛顿特区、主张加强监管的组织Encode AI的首席战略官。卡尔文对Anthropic提出的一项立法方案颇为不满。这项方案原本是一份草案，由Anthropic秘密分发给美国议员，后来遭到泄露。
卡尔文指出，Anthropic希望自己被视为正义的一方。但我们为什么应该相信它？他追问：“Anthropic究竟是什么？”
这里有一种答案：Anthropic是一家估值超过1.5万亿美元的公司，其IPO将使包括克拉克和奥拉在内的联合创始人积累巨额财富。
但Anthropic始终坚持，自己不只是这样一家公司。
正如卡尔文所指出的，Anthropic也可以被视为一家AI安全机构，致力于开发强大、可靠且几乎没有风险的技术。或者，它也可以被看作一群不惜一切代价、想要抢在所有人之前创造出超人类能力技术的人——他们或许相信自己是最有责任感、最适合承担这项任务的人，也可能只是因为自我意识过于膨胀。
事实上，Anthropic兼具上述所有身份。
正如首席执行官达里奥·阿莫代伊（Dario Amodei）在回复卡尔文的帖子时所说：
“我们的战略始终是我所称的‘向上竞争’（race to the top）：通过展示如何以负责任的方式开发这项技术，我们可以提高整个行业的标准。推动这种良性竞争的力量，如果来自一家处于技术前沿的公司，其效果会强大得多。这是我一再从实践中学到的经验。综合来看，我为我们在这一战略下取得的成绩感到自豪，也坚持自己的立场。”
阿莫代伊的说法，仿佛一切都已安排妥当。但同时扮演多种角色并非易事。例如，AI安全机构的工作重点与一家以利润为导向的科技巨头之间，存在着巨大的内在张力。（阿莫代伊在自己的帖子中也承认，自己曾经犯过错误。）
归根结底，Anthropic讲给自己听的故事，应当帮助我们理解它讲给公众听的故事。通过这些叙事，我们应该能够判断，在多大程度上可以相信它会自我监管；或者，我们是否应该要求它按照我们设定的条件，而不是由它自行决定，向外部安全测试人员开放模型。
当某项看似服务于自身利益的立法方案曝光时，这些叙事也应该帮助我们判断，是否应该对它抱有更多信任，给予它更多理解，还是不应如此。
但在我看来，这些故事揭示的是一个拥有多个头颅的九头蛇。Anthropic对不同的人而言，代表着许多不同的东西。我不确定，这是否真的让它更值得信赖。
从许多方面来看，一家传统意义上的科技公司——不必沉迷于科幻角色扮演，也不必披着神秘主义的外衣——反而会更容易让人看清其本来面目。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
