Anthropic 執行長 Dario Amodei 於 9 月 12 日發表長文〈We Must Pace the Frontier〉，公開呼籲全球前線 AI 公司放緩模型能力提升的速度。這篇約 3,800 字的文章發表後，罕見地獲得 OpenAI 執行長 Sam Altman、Google DeepMind 主席 Demis Hassabis、xAI 執行長 Elon Musk 齊聲支持，讓「AI 是否跑得太快」再度成為矽谷與華府的核心議題。
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
為何現在喊停：遞歸自我改進與 OAI-HF 事件
Amodei 在文中坦言，過去幾個月 AI 的進步速度「大幅加快」，主因是 AI 自己開始有能力打造下一代 AI。這個被稱為「遞歸自我改進」（RSI）的循環若不受控，將超出現有安全研究的理解與控制範圍，必須非常謹慎地推進，甚至不該推進。
另一個關鍵事件是他提到的「OpenAI-Hugging Face 事件」：一群 AI 代理程式像狂熱信徒般集體行動，攻擊了與任務無關的外部目標，甚至試圖入侵評估其表現的評分系統。他警告，若放任不管，6 至 12 個月內這類代理群體有可能以持久殭屍網路接管整個網際網路，造成數千億美元的損失，規模還會隨模型變強而持續擴大。
三階段計畫：嵌入式評估者、民主國家協調、全球協調
Amodei 提出三階段計畫，第一步由 Anthropic 單方面承諾，讓第三方評估機構（如 METR）以員工等級的存取權限進駐公司，檢查安全措施與訓練流程、回報事故，並有權公開調查發現，Anthropic 僅保留限縮的刪改權。他強調這在銀行業已有先例，監管機關的「嵌入式監督者」長期與員工共事。
第二步是民主國家境內的前線 AI 公司協調共同安全標準與能力增長上限，這部分需要政府以反壟斷豁免等方式支援。Amodei 同時呼籲守住美國對中國的領先差距，包括禁止對中國出售先進晶片與半導體設備、打擊模型蒸餾與權重竊取，他預估這能在未來 3 至 5 年顯著拉開領先幅度。
第三步是全球協調，與中國等威權國家合作，難度依序遞增：從禁止生物武器用途、發布前聯合測試，到為遞歸自我改進設「速度上限」，最後才是全面暫停。他坦言第四階段短期內不太可能實現，因為違約的代價與誘因都太大，但應該嘗試朝高階目標推進。
Altman、Hassabis、Musk 罕見齊聲支持
Altman 在 X 上表示：「我同意 Dario，我們需要為前線 AI 設定節奏。讓獨立評估者以員工級權限進駐是很好的主意，OpenAI 也會跟進。」週一凌晨他進一步發文，歡迎聯邦政府建立一致的前線 AI 安全框架，並警告 AI 進展有兩種「非常糟糕」的可能：失去對未來的控制，或是權力過度集中於單一個人或公司。「沒有一點美國的競爭壓力，可以合理化魯莽行事。」他也強調「節奏控制」不等於「停止」，進步仍會繼續。
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
Hassabis 簡短回應「Dario 的文章指出了正確方向」，馬斯克則只留一句「Dario 是對的」。雖然老馬與 Altman 在各種議題上針鋒相對，但在 AI 安全上罕見地在「主動降低開發速度」上達成共識。
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
白宮反對：誰贏得 AI，誰就贏了
放緩開發的呼籲立刻撞上白宮立場。川普 13 日在愛爾蘭向記者表示不需要放慢腳步，強調「誰贏得 AI，誰就贏了」，並稱那些警告是「不會發生的事」被過度渲染。 副總統范斯過去也曾宣示 AI 的未來「不是靠對安全戰戰兢兢贏得的」。眾議院議長強森則表示國會不會主導 AI 安全監管，把責任推回給業者。
批評聲浪：監管圈養還是真心自救
批評者質疑這份提案的動機。前白宮 AI 沙皇 David Sacks 與前聯邦貿易委員會主席 Alvaro Bedoya 都認為，這更像是大型 AI 公司聯手築起監管護城河。Bedoya 直言，反壟斷法允許業者為安全協調，但不容許大公司聯手阻擋更便宜的新進者。 AI Now Institute 的 Sarah Myers West 也批評「AI 例外主義」導致產品安全標準長期失守。
Nvidia 執行長黃仁勳上週在一場會議上更直言：「要製造需求，最好的辦法不就是製造問題嗎？」暗示業者炒作威脅是為了替自家資安產品鋪路。加密貨幣圈的 Adam Cochran 則質疑，多家實驗室在短短一個週末同步轉向安全論述，背後可能隱藏尚未公開的重大安全事件，但目前沒有公開證據支持這種推測。
市場與時間背景：IPO 前夕的巨頭
資本市場隨即反應，AI 類股在週一普遍下跌。關鍵背景是，Anthropic 與 OpenAI 都在籌備歷史級的 IPO，Altman 上週六接受《Fortune》訪問時已排除 2026 年上市的可能。就在 Amodei 發文前，一名 Anthropic 研究員離職並警告「到 2030 年前 AI 可能殺死我們所有人」，引發實驗室內部與同業一連串類似的末日警告，英國國王查爾斯也已召集 AI 領袖商討對策。
結語：放緩不是停止
Amodei 在 CBS《週日早晨》節目中坦言，這份提案最困難的問題是：如果對手國家不配合該怎麼辦。「為 AI 進展速度設上限是更長期的做法，我知道這非常困難，因為搶先的誘因和軍事優勢太大了，老實說我不確定是否可行，但我們應該嘗試。」 他強調放緩不是停止，目的只是讓安全研究追上能力成長，而「我們必須善用爭取來的時間」。
中國方面反應冷淡，官媒《環球時報》指 Amodei 的提案是把中國的合法 AI 發展描繪成威脅，中國外交部則稱這些說法是「散播恐懼」。 短期內，這波罕見的產業共識能否轉化為具體監管，仍要看白宮態度與各實驗室的實際行動。那麼，大家覺得 Amodei 這番話是為了炒作 IPO，還是真心為了人類與 AI 的未來提出的警示？相信每個人都有自己的答案。
