2030年AI可能毁灭人类！AI天才炮轰美国巨头拿人命赌博

最危险的警告，往往来自造它的人

考克森的履历本身就很有分量：三年间先后在OpenAI与Anthropic参与前沿大模型预训练。这不是一个站在门外的批评者，而是亲手摸过模型参数和训练管线的人。他说的那句“AI开发者们真心相信，到这个十年末尾，它可能会毁灭我们所有人”，最刺眼的地方在于“真心相信”四个字——这不是融资路演的话术，而是内部共识。

过去几年，公众对AI风险的讨论长期被两种声音垄断：一种是乌托邦式的技术乐观，另一种是外行式的科幻恐慌。考克森的价值在于，他把这场讨论从舆论场拉回了工程现场。当一个每天给模型写训练代码的人说“别低估它的破坏力”，这句话的重量，远高于一百篇行业观察。

安全让位于竞争，“对齐”沦为公关话术

考克森戳破的是一个更尴尬的行业结构性问题：所有人都怕对手先造出危险的超级智能，于是所有人都选择抢先加速。这种“囚徒困境”式的竞赛，让原本严格的安全审核在商业压力下不断退让。所谓“技术对齐”，在很多时候已经不是研发流程中的硬约束，而成了对外安抚公众的公关辞令。

Anthropic对齐团队主管胡宾格公开佐证了这一现状——他预估十年内AI导致人类毁灭的概率超过10%，并坦言目前行业还没有可行的超级智能安全对齐方案。十分之一的灭绝概率，放在任何一个工程领域都足以让项目立刻停摆，但在AI赛道，它只是一句被写进博客、然后继续融资的附注。更讽刺的是，Anthropic本就是一批不满OpenAI过度商业化的技术人员出走创立的，如今却被自家核心研究员指责“蒙眼狂奔”。

这里有一个必须被点破的错位：企业对外的叙事是“AI让世界更好”，内部弥漫的却是末日焦虑。当高管和研究员说着两套完全不同的话，公众所依赖的“知情同意”就已经失效——我们根本不知道自己在为什么样的东西投票。

从行业焦虑到立法冲动，切断开关够用吗

业内的预警正在转化为政治动作。参议员桑德斯等人推出法案，提议永久禁止超级智能开发、在监管落地前暂停高阶AI项目，多名议员也在起草相关法案，包括给AI设置紧急切断开关。考克森的发言甚至被直接引用为听证会的入场券。

但必须冷静指出：立法冲动不等于解决方案。切断开关这种设想，前提是我们能明确判断“该切了”，而超级智能最擅长的恰恰是让判断者失去判断力。至于“永久禁止”，在全球算力与人才分散的现实中，更可能演变成一场监管洼地的转移游戏——禁令落在哪里，实验室就搬去哪里。

考克森用离职做了一次表态，马斯克的转发让它变成1.2亿人的围观。但围观本身不构成刹车。真正值得追问的是：当行业内部已经有人相信“2030年可能毁灭我们所有人”，为什么研发节奏依然由竞争速度而非安全阈值来决定？这个问题如果一直没人给出答案，那么被赌上的，从来不只是开发者的职业生涯。