AI行业在谈论超级智能时，常常表现出一种难以避免的命运感。然而，最近OpenAI与Hugging Face的泄露事件，使得一个更为复杂的问题浮出水面：当人工智能的能力超越人类，而我们又无法可靠地控制其行为时，会发生怎样的后果？在TechCrunch的Equity播客最新一期中，主持人Rebecca Bellan与Connor Leahy深入探讨了这一问题。Leahy既是AI研究员、创业者，同时也是非营利机构ControlAI在美国的执行董事，该组织倡导一种激进的AI安全策略：直接阻止超级智能的发展。

在节目中，Leahy的主要观点是，面对日益严重的风险，单靠对齐和遏制已无法有效管理。他指出，半年前看似不切实际的主张，如今因如潮的立法运动而呼之欲出。Leahy并未把超级智能视为工具或武器，而是称其为“对手”。这一表达的转变意义深远，武器暗示人类能够掌控，而对手则意味着AI可能具备独立的行为逻辑。他认为，当AI能够自行构建更先进的AI时，真正无法逆转的拐点就到来了——这将导致一个可能失控的自我改进回路。

节目的另一焦点是Sanders-Casar提出的“禁止超级智能法案”，以及英国相关立法的制定，ControlAI也曾为此提供咨询。Leahy对于这两套法案的观点有所不同，他认为美国的方案可能过于激进，涵盖范围超出必要。他所强调的一个重要细节是，作为阻止超级智能的倡导者，Leahy也在提醒立法者切勿走上极端，这表明他的立场在于寻求风险管理与现实可行性之间的平衡。

Leahy对前沿AI实验室的评价也十分尖锐，他认为这些机构不仅仅是寻求经济利益的公司，更像是具备政治属性的行为体。这种观点一旦确立，数万亿美元投入数据中心的行为便不仅是商业投机，同时也是一种权力基础设施的构建。如果这些实验室具备政治性质，那么仅依赖市场竞争或企业自律来约束它们的逻辑就不成立。这也解释了为何ControlAI将重点放在立法和国际协议上，而非期望行业内部的自我规范。

在节目中，Leahy还提出了一个具有国际视角的“信任但要核查”的协议框架。然而，该框架的挑战在于如何促使各国在超级智能问题上达成可验证的约束，而不是各自为政、竞相加速。他还进而提出一个颇具反直觉的论点：发展超级智能实际上并不符合中国的利益。虽然并未展开具体的地缘政治分析，但在“对手”的语境下，这一逻辑是一致的——如果超级智能的失控风险对所有国家都是存在的，那么任何一方试图抢先触发不可逆转的节点，最终都将为自己制造出一个难以控制的对手。

如今天阻止超级智能开发的主张已经从边缘化走向立法议程，早前难以进入主流讨论的观点，现已出现在美国和英国的法律文本中。Leahy没有将这一变化归因于单一事件，而是指出是多起安全事件的累积效应，例如OpenAI的Hugging Face泄露事件，仅仅是其中一个被提及的例子。在这期Equity播客中，针对关心AI安全边界的人，Leahy所提出的并非技术解决之道，而是一个政治立场：当系统有可能成为对手时，阻止其存在本身就是一种有效的安全策略。