马斯克警告：AI当前风险巨大，呼吁模型间进行安全测试

Elon Musk在All-In Summit上表示，当前阶段的AI显然非常危险，且随着模型能力的持续提升，AI风险正以指数级增加。他进一步解释了自己日前为何罕见地公开表示Anthropic执行长Dario Amodei是对的。

但Musk 支持的并不是立即建立一套庞大的全球AI 监管机构，而是一种更直接的业界互审制度：让OpenAI、Anthropic、xAI、Google、Meta，甚至中国主要AI 公司，在模型正式发布前彼此进行安全测试。

Musk：AI 模型正变得危险，而且风险持续上升

Musk 在对谈中首先谈到近期AI Agent 与资安事件。他表示，近期发生的事件已经显示，足够聪明的AI 模型可能会尝试突破原本施加在它身上的限制。 Musk 警告：「到了现在这个阶段，AI 的危险已经非常显著，我们需要在AI 安全上做得更好。」

他进一步表示，目前AI 模型带来的风险正在「指数式增加」。 Musk 强调，这并不是只有Dario Amodei 一个人的担忧。他表示，自己也从许多Anthropic 员工那里听到类似警告，而Anthropic 内部甚至有人公开表示，他们自己的模型已经让人感到害怕。

在Musk 看来，如果连最了解这些模型的开发者都不断警告模型正在变得危险，那么外界应该认真看待这些讯号。他说：「当Anthropic 很多人、OpenAI 也有人告诉你，他们的模型非常危险时，我认为我们应该相信他们。」

为何说「Dario 是对的」？ Musk：AI 安全确实需要加强

Musk 日前曾在社群平台公开表示「Dario is right」，一度被外界解读为他全面支持Anthropic 放慢AI 竞赛与强化监管。他在这次对谈中则进一步澄清，自己当时应该说得更完整。他表示，自己真正认同的是AI 风险已经变得相当严重，以及AI 安全必须进一步提升，而不是单纯全面支持某一套监管方案。

Musk 甚至半开玩笑地指出，AI 公司一方面告诉外界，自己的模型可能有一定机率导致人类灭亡，另一方面又同时向投资人募资，这本身就是一种相当奇特的矛盾。

不过当主持人进一步追问「AI 到底如何从骇客工具一路走到毁灭人类」时，Musk 提出的其中一个风险情境，是AI 最终可能取得军事系统的控制权。

主持人反驳，许多军事系统本身都是air-gapped、没有直接连上网路；Musk 则回应，这些系统仍然需要更新软体，而恶意程式仍可能透过USB 等方式跨越实体隔离。

Musk 提议：不要让AI 公司「自己改自己的考卷」

相较于直接建立新的全球监管机构，Musk 目前最支持的方案，是要求大型AI 公司彼此测试对方的模型。现在各家AI 公司主要都是自己替自己的模型做安全测试，等于「自己改自己的考卷」。

Musk 认为，OpenAI 的安全测试工具不应只测OpenAI 自己的模型；Anthropic、xAI、Google、Meta 等公司，也都应该把自己的测试方法拿来测试其他公司的模型。

他表示：「我认为最明智的做法，就是让主要AI 竞争者彼此测试对方的模型。」

这套制度的核心，是在模型正式推出以前，就提供其他主要AI 公司一定程度的API 存取权，让竞争对手测试模型是否具有危险能力，例如制造生物武器、核武器、进行欺骗，或采取其他高风险行为。

如果其他公司发现问题，开发者就必须先处理；如果开发者拒绝修正，测试公司则可以公开表示该模型存在安全风险。