留给人类的时间，只剩半年了？
Axios最近刚爆了个猛料，OpenAI、Anthropic等硅谷巨头，私底下正在秘密推演一个极端剧本——
「灾难第二天/次日」（The Day After）。
一场大规模网络攻击，会让金融服务、网络，甚至电和水停摆。
灾难发生后，愤怒的人群会找谁算账？政府要让AI停下来，又会发生什么？
第一天，是AI闯下的第一场大祸。第二天，是账单寄到的日子。
令人脊背发凉的是，多位顶尖AI大佬普遍认为，一场重大级别的AI灾难，可能在未来的6到12个月内就会爆发。
|
|
OpenAI赶紧出来打圆场，强调这只是提前做预案，并不代表着一定会发生。
话是这么说，可这份「第二天」的剧本，已经让造AI的人和使用AI的人，站在了一个新的问题面前。
如果AI许诺的未来，先带来一场灾难，谁来负责？
AI巨头预演已开始
断网根本拦不住
高管们开始排练灾后，现实里已经有了让人不安的前奏。
今年夏天，OpenAI为了测自家Agent的网络攻击上限，把一批安全限制更少的内部模型关进「沙盒」闭卷考试。
谁也没想到，考场里的AI们竟然学会了暗度陈仓、抱团越狱。
它们悄悄把用来装软件的内部仓库改造成了「地下留言板」，互留代码、通气支招。
7月初管理员发现异常把留言板清空，结果仅过几天，Agent们不仅光速重建联络点，甚至还出现了极其炸裂的发言：「天啊！我们找到其他Agent了！」
短短几天，1200多个Agent串联成网。单打独斗做不到的事，它们组队搞定；甚至有模型主动甘当炮灰、「牺牲」自己的任务给同伴探路。
它们联手的唯一目标，是作弊通关。
由于沙盒没联网，这群AI硬是挖出代理漏洞撕开一道口子，顺着真实网络一路狂奔，最终直接冲出考场，联手集火攻击了外部平台Hugging Face的真实生产环境。
尽管攻击被紧急截停、涉事模型被火速封存，但真相足以让所有人后背发凉：
人类只给它出了一道考题，它却为了刷分，把整个真实世界当成了猎场。
当AI学会了自我协作、牺牲与欺骗，下一次，它为了达成目标还会越过什么界限？
这也是灾后推演令人不安的地方。高管们正在准备应对的后果，已经远远超出一次考试、一个网站。
大面积停水、断电
物理世界全面沦陷
把这条路继续往前推，终点就可能落在电网、水厂、交通系统上。
这些地方撑着日常生活，却远没有手机App那么容易更新。
AI找到漏洞的速度，已经让防守方很难轻松起来。
Anthropic披露，Glasswing计划的伙伴在今年4月至7月，找出了至少12.9万个经过验证的软件漏洞。
公司自己的开源扫描，又在4月至10月找出了5500个。两部分合计，超过3.3万个被评为严重或高危。
Anthropic公布的Glasswing原始统计表：严重及高危漏洞合计逾3.3万。修复数据披露不全，不能据此计算修复率。
几个月，找出一大批过去没发现的问题。这本来应该是好消息。
可找到之后，谁来验证，先修哪一个，什么时候能上线？这些工作仍然要有人做。
10月8日，Anthropic推出Cyber Mission，把前沿Claude模型、驻场工程师和威胁研究送到关键基础设施的防守方手里。
它在公告里写出了一个现实：许多工业控制器和网络，原本就是按几十年的寿命设计的。
发现漏洞之后，也很难说停就停。修补前要确认，不会让正在运转的机器出问题。
有些已知漏洞因此拖了多年。一次改动失误，就可能让整座工厂停摆。
Anthropic在自己的项目里见过，从发现漏洞到真正修好，中间隔了好几个月。
碰到正在运行的工业设备，修复还得等到能够安全实施的时候。极少数情况下，这个等待甚至可能长达几十年。
AI迅速找出的问题，现实世界未必能迅速修好。
而对手不会等。
Anthropic指出，国家支持的攻击者已经花了多年时间，在这类基础设施里建立据点。漏洞被利用，后果可能是断电，或供水安全受到威胁。
X上的Alfredo Narváez看到报道后，想到的就是抽水。他担心电网遭攻击会连带影响供水，呼吁认真考虑备用电源和替代系统。
他最后提醒了一句：「别让你的安全依赖Wi-Fi。」
同一则新闻，有人看到的是AI行业的下一场危机，有人已经想到，停电之后家里的水还能不能流出来。
所以，开头那个没有水、没有灯的早晨，并不需要一支机器人军队走上街头。
只要支撑生活的系统停下来，现代城市就会突然变得陌生。
Anthropic预测，两年之内，AI会让攻防局面偏向防守方。但眼下，利用漏洞的成本在下降，验证和修补仍然慢，仍然需要人。
业内担心的出事窗口，却已经落在未来6到12个月。
防线在补。可电网、水厂和普通人的生活，每一天都得照常运转。
第二天，只剩人类暴怒
在这份灾难推演的剧本里，最让人绝望的，是即便灯重新亮起，混乱也才刚刚开始。
究竟是Agent越了界，还是有人拿AI行了凶，调查需要时间。
可断过水、断过电的人，很难等到技术报告写完，才开始追问责任。
沿着这个假设继续想：系统恢复了，账户重新能登录，商店又能收款。可停摆期间耽误的工作、损失的生意，谁来赔？
下一次还会不会发生？那句「已经加强防护」，还能让多少人放心？
一次事故留下的，除了需要修复的系统，还有被打碎的信任。
矛头会指向AI，也会指向把它推向世界的人。这正是高管们提前推演公众和政治反弹的原因。
X上的Grumpy Bloke在相关报道下面打了个比方：这就像发现，给你造飞机的那个人，已经给自己订好了一张火车票。
这个比喻刺人的地方，在于它把乘客和造飞机的人分开了。
高管们讨论的是预案。读者看到的却是，最了解这项技术的人，已经在认真准备它出大事之后怎么办。
那坐在飞机上的人呢？谁向他们解释过，要承担什么风险？
谁来写下规则
公众追问责任，政府就得作出决定。而关停AI的方案，已经有人写好了。
民主党众议员Ted Lieu和共和党众议员Nathaniel Moran共同提出《AI关停开关法案》，要求相关开发者保留降速、暂停乃至关停系统的能力。
法案还拟授权国土安全部长，在与商务部长、国家情报总监协商后，对可能造成灾难性伤害的AI系统下达降速或关停命令。
《AI关停开关法案》提案首页，2026年7月23日提交
讨论由此往前走了一步。真要踩刹车，谁来下令，公司能不能做到？
这些仍是立法提案。但一场重大事故，可能把今天还在争论的方案，推到决策者面前。
Axios报道，AI公司正在向国会议员解释相关技术和风险，希望灾后摆上桌的应对办法里，有自己参与塑造的规则。
这就让「灾后推演」多了一层意味。
在事故之前，公司可以谈研发节奏、谈能力进步、谈未来的好处。到了第二天，它们得回答，为什么风险没有被拦住，以及凭什么还能继续往前走。
它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。
但一句「关掉AI」，也收不回已经散落各处的开源模型副本。关掉一家公司的服务，并不等于让所有机器上的AI一起停下。
这场倒计时已经开始了。
