Anthropic提議全球AI暫緩開發，稱自改進模型兩年內即將來臨

Anthropic呼籲全球協調暫停前沿AI開發，再次引發業界辯論：在機器學會在無人監督下自我改進之前，產業是否能夠自我監管。

Anthropic警告，AI系統可能在兩年內達到「遞歸式自我改進」——即在沒有人類干預的情況下改寫自身程式碼的能力——並提議全球協調暫停，以減緩前沿模型的開發速度。

「我們相信，若能選擇減緩或暫時暫停前沿AI開發，讓社會結構與對齊研究能夠跟上技術進步的步伐，對世界將是好事，」Anthropic內部研究主管Marina Favaro與政策主管Jack Clark週四在部落格文章中寫道。

這家估值約9650億美元的公司（上個月完成650億美元的H輪融資）發布內部數據，顯示其最先進模型自主完成軟體任務的速度正在快速加速。Clark表示，部分系統可能在兩年內實現遞歸式自我改進，不過該公司承認此現象仍屬理論階段，從未在實際生產環境中驗證。

此提案發布之際，Anthropic與OpenAI正競相邁向公開上市——Anthropic本週已向美國證券交易委員會祕密提交IPO文件——兩家公司正爭奪一個預計未來五年AI基礎設施支出將達到1兆美元的市場主導地位。若執行暫停，將重塑競爭格局，並可能延遲數十億美元的預期營收。

全球暫停的可行性

分析師表示，在全球範圍內執行AI開發的全面暫停將面臨幾乎無法克服的障礙。Enderle Group的Rob Enderle稱全球暫停「實際上不可能」，因為經濟與國家安全利益過於重大，沒有任何大國願意自願放慢腳步。與核武器不同（衛星影像可驗證飛彈發射井的建設），AI訓練可以隱藏在私有資料中心內，使用去中心化的運算資源，遠更難以監控。

「追蹤去中心化的運算資源、私有資料中心以及全球的演算法研究，遠比監控核設施等物理實體困難得多，」Enderle表示。

Anthropic承認驗證方面的挑戰，並將其比作冷戰時期的軍備控制條約，但指出隱藏AI訓練運算比隱藏飛彈基礎設施要容易得多。該公司表示，其Anthropic Institute研究部門將與政策制定者和研究人員合作，探索驗證機制，但未提供具體時間表或框架。

批評者質疑Anthropic的動機

該提案引發業界人士強烈質疑，認為Anthropic正利用安全言論來鞏固其競爭地位。創投家David Sacks（美國總統唐納·川普的非正式顧問）此前曾指控該公司推行「監管捕獲議程」，試圖禁止低成本開源模型，以推升對其專有演算法的需求。

OpenAI執行長Sam Altman也提出類似指控，稱Anthropic的警告是「恐懼行銷」。他在上月的一份聲明中表示：「『我們造了一顆炸彈，即將把它丟到你頭上。我們會賣給你一個價值一億美元的防彈避難所。』這顯然是高超的行銷手法。」

OpenAI週三自行發布報告，主張「民主政府——而非私人公司單獨行動——必須最終決定AI開發的規則、保障措施與問責機制」，這一立場實質上拒絕了Anthropic由產業主導的暫停提案。

Constellation Research的Holger Mueller表示，他樂見Anthropic提出倫理問題，但質疑該公司是否試圖「凍結現狀以便迎頭趕上，或只是為了維持領先」。他指出，凍結將有助於Anthropic維持其在企業對企業AI系統中的地位，並可能擴大市場佔有率。

賓州大學華頓商學院教授Ethan Mollick在X平台上發文稱，這篇部落格文章「有點自我反省、一些行銷手法，以及大量關於Anthropic認為AI近期走向的真誠信念」。

投資人影響

對投資人而言，這場辯論為一個大型參與者——Anthropic、OpenAI、Google、微軟與Meta——每年合計在AI基礎設施上支出超過2000億美元的產業，帶來了監管不確定性。如果協調暫停獲得關注，可能會拖緩Nvidia的營收成長預期，該公司最近一季的資料中心營收為475億美元，直接與AI模型訓練需求掛鉤。如果提案遭到拒絕，可能消除短期的不確定因素，但會加劇對安全實務的關注。

Anthropic目前尚無公開交易代碼，但其祕密提交的IPO文件意味著公開市場投資者很快就會直接涉入這場辯論的結果。該公司由Spark Capital與Menlo Ventures等投資者領投的650億美元融資輪，估值約為年化營收的40倍——這個倍數假設的是持續快速成長且無監管中斷。

本文僅供資訊參考，不構成投資建議。