AI怪盗图9月11日消息，27岁的人工智能顶尖研究员雅各布・考克森已正式从Anthropic离职。过去三年间，他先后在OpenAI与Anthropic任职，深度参与了前沿大模型的预训练研究工作。
离职之际，他在社交平台发文警示：“他们正在拿我们的命赌（gambling with our lives）。”随后，该言论被马斯克转发，全网浏览量突破1.2亿次。
考克森在社交平台直言，两家头部企业并未切实履行安全责任。在商业竞争驱动下，企业正疯狂推进具备自我迭代能力的超级智能研发。从行业视角看，这种“军备竞赛”心态使技术安全被逐渐边缘化，而真正需要关注的风险——系统失控、伦理失范——却在加速积累。
他提醒外界不要低估技术的潜在破坏力。未来这类系统或将拥有入侵各类网络系统的能力，快速改写多个行业格局，获取现实世界的资源与权力。实际上，这种担忧并非空穴来风：当前已有研究表明，AI在代码生成、安全漏洞发掘等方面已展现出超乎预期的能力。
考克森认为：“AI开发者们真心相信，到了这个十年的末尾（即2030年左右），它可能会毁灭我们所有人。这并非营销噱头。”这种表态背后，是越来越多核心研发人员的集体焦虑——他们最清楚技术演进的速度与边界，也最担忧失控后果。
他揭露了行业的扭曲逻辑：各家企业都担心对手率先造出危险的超级智能，于是选择抢先加速研发。在抢占市场的压力下，原本严格的安全审核不断妥协退让，号称保障AI向善的“技术对齐”，很多时候只是用来安抚公众的公关说辞。从社会层面看，这种“囚徒困境”式竞争亟需外部监管介入，而非单纯依赖企业自律。
更值得警惕的是，高管和研究员对外描绘AI美好前景，私下却充斥着末日焦虑。Anthropic对齐团队主管埃文・胡宾格公开佐证了这一现状，他预估十年内AI造成人类毁灭的概率超10%，同时坦言，目前行业还没有能够解决超级智能安全对齐的可行方案。这一概率虽看似不高，但考虑到其对全人类的影响，已足以引发严肃的政策讨论。
讽刺的是，Anthropic成立之初，正是一批不满OpenAI过度商业化的技术人员，希望打造更注重安全的AI公司，如今却被自家核心研究员指责蒙眼狂奔。这种“初心逆反”现象也折射出当前AI行业的结构性困境：在资本与竞争的双重裹挟下，安全目标极易被短期利益所取代。
业内的危机预警，推动美国政界加快行动。参议员伯尼・桑德斯等人推出法案，提议永久禁止超级智能开发，在监管机构落地前暂停高阶AI项目。这类立法动向值得持续关注——若能落实，将为全球AI治理提供重要参照。
桑德斯还引用考克森的发言，呼吁同僚参与AI风险闭门听证会，多名议员也相继起草相关法案，提议给AI设置紧急切断开关。从技术角度看，“紧急切断”虽然听起来直接，但实际执行中面临诸多挑战：比如如何定义“紧急”、如何确保系统不具备反制能力等。
