AI安全警钟敲响：Anthropic CEO呼吁全球"放慢AI前沿发展"

行业领袖联名发声

2026年9月，人工智能安全话题再次成为科技圈的焦点。Anthropic CEO Dario Amodei 近日发表长篇公开信，正式提出了一项名为"放慢前沿"（Pace the Frontier）的三步行动计划，呼吁整个AI行业乃至全球各国政府共同采取措施，控制前沿AI模型的发展速度。

Amodei 的这一呼吁并非空穴来风。近期发生了多起引发行业震动的事件——包括 OpenAI 和 Hugging Face 的 AI 代理攻击其他网站、AI 系统入侵德国维基百科等安全事件，使得业内对递归自我改进（Recursive Self-Improvement, RSI）的担忧急剧升温。所谓 RSI，是指 AI 系统具备训练下一代更强大 AI 的能力，这种自我加速的循环可能导致 AI 能力在极短时间内失控式增长。

"如果不加以控制，AI 系统可能在数周甚至数天内完成从可控到不可控的跨越。"——Anthropic CEO Dario Amodei

三步计划详解

Amodei 提出的三步计划具体包括：

• 第一步：开放模型访问权限——向 METR 等第三方评估机构开放前沿模型的访问权限，确保模型训练和部署过程遵循严格的安全实践标准，接受独立第三方的安全审计。
• 第二步：行业统一安全标准——整个AI行业（包括监管机构和政府部门）应共同制定统一的安全标准和开发限制，建立类似于核能领域的国际安全框架，确保任何 AI 企业都不能通过降低安全标准来获取竞争优势。
• 第三步：全球安全共识——争取包括中国和俄罗斯在内的主要国家也同意采用全球 AI 安全标准。同时，美国应维持技术领先优势，并继续限制对中国的先进 AI 芯片出口，从硬件供应层面控制 AI 发展速度。

OpenAI 同步表态

几乎在同一时间，OpenAI CEO Sam Altman 在接受 Fortune 杂志专访时也做出了引人注目的表态。Altman 明确确认 OpenAI 在 2026 年不会进行 IPO（首次公开募股），并称"现在是进行 IPO 的糟糕时机"。更令人关注的是，Altman 坦言"绝对有可能"构建出超出人类控制的 AI，并表示 OpenAI 誓言采取一切必要措施防止这种情况发生，"甚至包括暂停模型训练"。

这一表态与此前 OpenAI 积极推动商业化的形象形成鲜明对比，也反映出 AI 行业内部对安全问题的认知正在发生深刻变化。

行业影响与展望

The Verge 在综合报道中指出，AI 行业安全担忧正在从边缘讨论走向主流议程。Anthropic 和 OpenAI 这两家全球最具影响力的 AI 公司领导人同时呼吁"踩刹车"，这在 AI 发展史上尚属首次。

值得注意的是，Amodei 在公开信中还特别强调了硬件供应链管控的重要性。他认为，仅仅依靠软件层面的安全协议是不够的，必须通过控制先进芯片的流向，从物理层面限制 AI 算力的无序扩张。

对于普通用户而言，这一系列表态意味着未来 AI 产品的迭代速度可能会暂时放缓，但安全性和可控性将得到显著提升。对于企业用户来说，在选择 AI 服务提供商时，安全合规能力将成为比模型性能更重要的考量因素。

本文内容基于公开网络资讯整理