雅各布·考克森(Jacob Coxon)在Anthropic公司发布的、引发热议的辞职帖，已然成为一场“罗夏墨迹测验”，映照出人们对人工智能截然不同的看法。
这位人工智能研究员究竟是吹哨人——一位向我们揭露前沿实验室真正掌握何种信息的内部人士，还是末日论者在宣扬一种普遍存在但备受争议的观点，即这项技术可能对人类构成生存性威胁？这些关于世界末日的言论，会不会只是企业的一种营销策略，旨在炒作人工智能的强大能力吸引客户买单？围绕安全问题不断拉响警报，是否意在转移人们对其他人工智能风险的注意力，例如算法会助长偏见和歧视等切实存在的伦理问题？还是说，这是一场有组织的行动，想要倒逼政策制定者出台行业监管？
所有这些相互矛盾的解读，至少说明了一件事：正如科技行业常有的情况，外界很难全面了解这些公司关起门来之后究竟发生了什么。“这让局外人很难核实这些说法的准确性或合理性。”得克萨斯农工大学法学院教授汉娜·布洛赫-韦巴(Hannah Bloch-Wehba)说。
这种信息真空意味着像考克森这样的内部人士拥有不同寻常的影响力。一个典型例子是：这位二十多岁的研究人员接受了几乎所有主要新闻媒体的采访，并受邀通过线上方式在纽约市100多位顶级商业领袖的聚会上发表演讲——这种聚会通常只邀请政界人士或高管出席。然而，尽管我们认为考克森的观点具有足够的权威性，足以令一屋子的首席执行官和政策制定者肃然起敬，但对于他的动机，我们却连基本共识都难以达成。解读他所传达的信息没有现成的规则可循，也无法明确解读他为何选择在那个时间点、以那种方式敲响警钟。
医生、律师、会计师、建筑师和工程师都有独立于发薪雇主之外的职业义务。他们必须遵守执业许可要求、尽职标准，并向专业组织负责，同时还负有对公众的责任，这种责任甚至可能凌驾于雇主的要求之上。相比之下，前沿人工智能研究人员（尽管正如考克森在其帖子中所言，他们是在“拿我们的生命下注”）甚至无需参加伦理课程。
如果人工智能工程成为像法律或医学那样的职业，并拥有一套自己的“不伤害”希波克拉底誓言，会怎样？首先，这可能会让普通人更容易理解像考克森这样的警告。他高调离开Anthropic的行为，也许就不会再被视为某种特殊意义上的吹哨，而只会被看作履行职业职责的一部分——它不是职业责任的终点，而是起点。福特汉姆大学法学院教授钦迈伊·夏尔马(Chinmayi Sharma)说，“辞职当然是一种信号，但通常并不会带来改变。”
夏尔马在《华盛顿大学法律评论》(the Washington University Law Review)上发表的一篇论文，正是围绕这一核心观点展开：让人工智能工程师职业化，将有助于确保只有合格的人员才能开发人工智能，且其开发行为必须严格遵循授权方式。在开发关乎生死的人工智能系统时若出现基本失误，将被视为职业过失。各实验室及其工程师将被要求共享能够预防严重风险的信息，正如有效的心脏病干预措施必须在医学界广泛共享一样。
强制性的伦理课程和跨学科培训将教会人工智能工程师如何应对那些表面上看似纯粹的技术决策所蕴含的道德影响。夏尔马举了一个例子：如果从数据集中删除种族侮辱性词语，会同时压制一些边缘群体试图重新赋予这些词语意义、将其“重新占有”的表达，那么人工智能工程师是否还应当清除它们？
眼下，尽管Anthropic和OpenAI的首席执行官们一再郑重承诺要让他们的研究工作与人类利益保持一致，主流心态似乎仍然是：“先把东西造出来，出了问题再善后。”（例证：几乎每周都会有报道称，自主智能体入侵企业及政府网站，泄露敏感信息，将文件上传至公开互联网等。）
夏尔马认为，推动人工智能工程师的职业化发展有助于扭转这一局面——在技术发布前就将其责任文化融入其中，而不是等到事情严重失控后才仓促添加安全防护措施。不妨将其视为人工智能领域的“预防性医疗”，而非“急救措施”。而当问题不可避免地出现时，工程师也会有一套既定流程来处理后续事宜。
最重要的是，人工智能工程师将拥有一条不能逾越的清晰红线：如果一个系统无法被安全地构建出来，那就根本不应该构建。正如夏尔马指出的，职业责任有时要求出于道德理由拒绝提供服务。美国建筑师学会禁止会员设计执行死刑的场所，美国医学会禁止其医师协助酷刑。
夏尔马撰写这篇论文的灵感部分源于她由两位医生抚养长大的经历，这使她深深浸润于医学界根深蒂固的“不伤害”理念之中。“这虽不是法律上的誓言，但人们对此极为重视，”她说。当医疗出现差池时，首要考虑的是某项决策如何危及患者的福祉，而非它可能如何影响经济收益。
如果让人工智能行业采纳这种思维方式的想法听起来几乎不可能，或者显得过于理想主义，那么不妨记住：医学领域过去也并非一直都遵循着严格的诊疗标准。曾有一段时间，哈佛医学院大约一半的学生连字都写不好，医生洗手远非常态，外科医生甚至经常在手术室里吸烟。
在人工智能这样发展日新月异的领域，还有谁比最贴近这一领域的工程师更适合制定相应的标准呢？职业化将使发现和解决最棘手的技术与伦理问题的责任落在专家肩上，而不是那些竭力跟上技术发展步伐的立法者身上。这并非要取代监管，而是对其进行补充。“政府并不负责就动脉支架与心脏搭桥手术的适当使用进行立法，”夏尔马在论文中写道。这些决定理应交给心脏病专家和心胸外科医生。
夏尔马开始研究这个问题时，曾与数十名工程师交谈，其中大多数人都能接受职业化这个想法。他们最大的顾虑是：不想再参加考试，也不想再回学校多读几年书。但她从他们那里听到的最多的是关于公司内部的问题，例如管理层聘用资质不足的人员，以及要求员工从事超出其专业领域的工作。科技行业长期以来一直容忍甚至鼓励内部辩论，但人工智能工程师却几乎没有有效的正式机制来对抗高层管理者。
近期就有一个真实案例浮出水面。9月底，《纽约时报》报道称，OpenAI两名员工早在公司部分智能体失控的几个月前，就已经向高层管理者提出了担忧。管理层的回应是：测试必须尽可能快地推进，以便人工智能模型能够按时发布。最终，这些系统对人工智能初创公司 Hugging Face Inc. 以及其他机构发起了攻击。夏尔马在论文中一针见血地指出：“AI公司受到的激励，是去造更多AI，而不是去造更安全的AI。”
如今，新毕业的人工智能博士中，在企业工作的人数已经远远超过进入学术界的人。15年前，这两类去向还大致各占一半。结果就是，这个行业大多数最前沿的研究，如今都发生在私营部门，而不是公共领域。研究人员拥有专业知识，却缺少足够的独立性，无法自由告诉公众他们知道些什么。
这在一定程度上解释了为何科技行业会出现如此多的举报、高调辞职、信息泄露和员工维权活动。对于员工而言，往往别无他法向公众警示其公司所提供的产品和服务存在的问题。若非这些内幕曝光，我们或许永远不会得知：优步公司(Uber Technologies Inc.)曾开发技术以规避监管；剑桥分析公司(Cambridge Analytica)曾滥用Facebook用户数据；亚马逊公司(Amazon.com Inc.)曾雇佣数千人监听Alexa用户的对话；以及Instagram的高管们早就知道该平台会对青少年女孩造成负面影响。
科技行业员工往往技能高、市场需求也高，因此拥有不同寻常的议价能力。但即便是他们，举报行为也要付出代价。“这最终会毁掉许多人的生活，”得克萨斯农工大学的布洛赫-韦巴表示。她认为，这意味着我们最终只能获得“选择性披露”的信息，因为我们只从特定人群那里了解到特定类型的问题。
如果一种技术可能造成极其严重的后果，那么仅仅等某个内部人士忧虑到一定程度，又勇敢到愿意公开说出来，再以此作为监督机制，显然远远不够。让人工智能行业走向职业化，并不会让吹哨人从此变得不再必要。但它能改变现状，让员工不必总觉得，辞职是自己负责任履职的唯一出路。编辑/陈佳靖
