2030年AI可能毁灭人类！AI天才炮轰美国巨头拿人命赌博

从OpenAI到Anthropic，一个“叛逃者”的分量

考克森的履历本身就是一个信号。三年间，他先后在OpenAI和Anthropic任职，都是直接接触预训练核心环节的人。这意味着他的判断不是来自论文摘要或媒体转述，而是来自每天真实发生的算力调度、能力评估与安全阈值讨论。当这样一个人选择在离职时公开发声，其可信度天然高于任何外部批评者。

他给出的时间表相当刺眼：不少开发者“真心相信”到这个十年末，也就是2030年前后，这类系统可能毁灭所有人，而且“这并非营销噱头”。更值得注意的是他对能力边界的描述——自我迭代、入侵各类网络系统、快速改写行业格局、获取现实世界的资源与权力。一旦智能体具备自我改进与跨系统行动的能力，风险就从“说错话”升级为“做错事”，而且是以人类跟不上的速度。

“拿命赌博”的真正内核：一场停不下来的囚徒困境

考克森揭露的逻辑其实并不新鲜，却极其致命：每家公司都害怕对手先造出危险的超级智能，于是选择抢先加速。这是一场典型的囚徒困境——谁先踩刹车，谁就可能被淘汰。在这种博弈结构下，安全审核不是被恶意抛弃的，而是在一轮轮“这次先过、下次再补”的妥协中被慢慢磨掉的。

最讽刺的一点在于Anthropic的出身。这家公司当初正是由一批不满OpenAI过度商业化的技术人员创立，打的就是“更重视安全”的旗号。如今却被自家核心研究员指责蒙眼狂奔，这本身就说明：在商业竞争的压力场里，创始初衷几乎不具备约束力，制度设计比情怀可靠得多。

当“对齐”变成公关话术，刹车该由谁来踩

更令人不安的是内外两套话术的割裂。对外，高管与研究员描绘的是效率提升与产业红利；对内，却弥漫着末日焦虑。Anthropic对齐团队主管埃文・胡宾格公开佐证了这种现状：他预估十年内AI造成人类毁灭的概率超过10%，并坦言行业目前还没有能够解决超级智能安全对齐的可行方案。当“技术对齐”在很多时候沦为安抚公众的公关说辞，公众实际上是在信息不对称中被动承担风险。

业内的预警已经开始向政界传导。参议员伯尼・桑德斯等人推出法案，提议永久禁止超级智能开发，在监管机构落地前暂停高阶AI项目，并呼吁同僚参与AI风险闭门听证会；多名议员也在起草相关法案，提议为AI设置紧急切断开关。客观地说，永久禁止在技术上几乎无法执行，算力与人才可以跨境流动；但“紧急切断开关”这类要求，至少把可追责性写进了规则。

笔者认为，这场争论的真正价值不在于2030年会不会到来，而在于它戳破了一个长期被回避的前提：当行业自己都承认没有安全解法，却仍在全速推进时，把风险判断权完全交给市场竞争，本身就是最危险的一次下注。安全不该是赛后判罚，而应是赛前准入。留给人类的时间窗口究竟有多宽，没有人能给出准确答案，但至少有一件事是确定的——赌注不该是所有人的命。