近日，人工智能领域掀起了一场不小的风波。前OpenAI和Anthropic研究员雅各布·考克森在社交平台X上宣布辞职，并直言两家公司正在不顾风险地追逐超级智能，这一言论迅速引发广泛关注，帖子浏览量突破1.2亿次。特斯拉创始人马斯克转发该帖，并评论称“看起来像是个局”，考克森则以自拍回应，强调自己言论的真实性。
考克森的辞职时机颇为引人注目。据媒体报道，他在Anthropic仅工作四个月，而该公司员工需满六个月才能获得股权归属。这意味着他离职时放弃了潜在的经济利益，却仍持有前东家OpenAI的股权。这种选择在硅谷极为罕见，通常只有两种解释：要么找到了更优厚的职位，要么对当前工作方向产生严重质疑。考克森显然属于后者。
这位27岁的英国数学家曾是数学竞赛的佼佼者，后进入剑桥大学深造。2023年加入OpenAI后，他参与了GPT-4o的研发，并被列为GPT-4.5的核心贡献者。今年早些时候，他转投Anthropic，认为该公司更注重模型安全。然而，短短四个月后，他的观点发生了彻底转变。
考克森在帖子中透露，初入Anthropic时，他以为这是一家将安全置于首位的企业。但实际工作后发现，公司内部存在一种“争抢第一”的竞赛氛围。管理层认为，如果自己不开发超级智能，其他公司也不会负责任地推进，因此宁愿承担风险也要抢先实现目标。他用“为防止他人打开盒子，自己先拼命打开”来形容这种逻辑。
更令人震惊的是，Anthropic对齐科学部门负责人埃文·胡宾格直接在考克森的帖子下回应，承认公司确实认为AI可能在未来十年内导致人类灭绝的概率超过10%。他表示，尽管团队已尽力，但仍未找到解决超级智能对齐问题的方案，也无法确定当前研究方向是否可行。这一公开表态来自公司核心安全岗位的负责人，无疑给Anthropic的“安全”形象蒙上阴影。
考克森的爆料恰逢Anthropic筹备上市的关键时期。据《金融时报》报道，投资者正推动公司以超过2万亿美元的估值在10月上市，这将成为史上规模最大的IPO。考克森在接受采访时坦言，此时离职是因为抬高估值已无个人利益，他的举动比任何言论都更具说服力——若想博眼球或做空公司，留在内部等待股权兑现再发声显然收益更大。
事实上，AI领域对技术风险的担忧并非新鲜事。图灵奖得主杰弗里·辛顿曾估计，AI导致人类灭绝的概率为10%至20%；OpenAI研究员Roon也公开表示，自己的“末日概率”估算已从不到1%升至超过10%。胡宾格的10%预测在此背景下并不算最悲观，但由一家以“安全”为卖点的公司对齐负责人公开确认，性质截然不同。Anthropic的创立初衷正是为了制衡OpenAI的商业化冲动，如今连“造缰绳”的人都对控制力产生怀疑，引发行业深思。
考克森在帖子末尾呼吁，实验室研究员在参与超级智能强化学习项目前，应认真考虑未来几年的实际感受，以及是否要在未充分理解其“心智”的情况下启动运行。他未号召全员辞职或断言AI必毁人类，而是强调此类决策不应仅由旧金山少数工程师在笔记本电脑上做出，而应像曼哈顿计划那样，在严格监管的环境中进行。
这场风波暴露了AI安全治理的深层矛盾。当私人公司掌握可能改变人类文明的技术时，谁来监督、谁有权叫停、如何确保“安全第一”？考克森用放弃股权的方式抛出问题，胡宾格以公开承认坐实问题，而美国国会则提出法案，试图永久禁止超级智能开发，违者最高判20年。然而，法案能否通过、如何执行仍是未知数。Anthropic的估值可能达2万亿美元，而考克森离职时仅带走一份未归属的股权和一个不再相信的叙事。
网上有人将考克森的帖子改编成表情包，模仿其句式写各种离职理由，如“我辞职了，因为公司冰箱里的酸奶过期了”。这种戏谑反映了一种普遍心态：多数人并不真正相信“人类灭绝”会在自己有生之年发生。但考克森的选择表明，至少对他而言，这已不再是可调侃的玩笑——一个27岁的年轻人，在硅谷最炙手可热的位置上，在金钱触手可及时选择离开，这一举动本身已说明一切。
