自架 DeepSeek 真的比較省？國外公司租 4 張 H200 實測，每月成本竟是 Claude 的兩倍多

隨著免費開放權重模型越來越強，很多人開始覺得，與其長期訂閱 Claude、ChatGPT 等 AI 服務，不如直接改用本地 LLM，或自己租 GPU 來跑模型，整體應該會省不少。尤其 DeepSeek V4.1 Flash 推出後，國外就有不少開發者開始考慮租用 GPU 自架 DeepSeek，取代原本每天使用的 Claude Code。

根據外媒報導，美國一間顧問公司就進行了這項實測。他們租下 4 張 NVIDIA H200，準備讓 DeepSeek V4.1 Flash 接手原本由 Claude Opus 5.5 負責的寫程式工作，但最終成本不是大家想的那樣省，而且由於安全問題，DeepSeek 最後甚至沒有投入程式碼撰寫。

AI 生成的示意圖

DeepSeek 真的比 Claude 便宜 80 倍？美國公司租 4 張 H200 自架實測：每月 1.3 萬美元，比 Claude 帳單貴一倍以上

根據外媒 Tom’s Hardware 報導，The Call Center Doctors 是一間替其他企業建置與營運客服中心的顧問公司，最近分享了租用 GPU 運行本地 DeepSeek 的心得。

他們在 9 月 27 日租了一台搭載 4 張 H200 的主機，讓自家的 Claude Code 代理改接 DeepSeek V4.1 Flash，取代原本的 Opus 5.5。

這台主機正常的隨需價是每小時 18.37 美元，不過他們實際付的是 spot 閒置算力價，每小時僅 9.19 美元，便宜一半，但代價是供應商隨時可以把機器收回去。

而且整個架設過程也沒有想像中順利。

報導提到，每次重新載入 DeepSeek V4.1 Flash 都要等上 10～15 分鐘，前幾次還接連因為 GPU 記憶體設定、顯示卡之間的通訊問題，以及同時啟動太多代理而當機。

團隊前後調整了好幾輪設定，直到第 5 次把同時執行的代理數限制在 128 個，並把 GPU 記憶體使用率控制在 90% 左右，系統才終於穩定下來。

因此他們認為，自架大型模型並不是「下載模型、開起來就能用」這麼簡單，背後還需要有人懂 GPU、記憶體配置和系統調校，隨時處理各種問題。

一開始他們做了幾輪一分鐘的滿載測試，每次只測一種工作，全程零錯誤，可說相當完美。但進到真實的寫程式工作後，問題就開始出現。

AI 寫程式不是每次只處理一個全新的問題。隨著對話和程式碼越來越長，每次執行任務時，模型都得重新讀取前面的內容，才能知道目前做到哪裡。

他們檢查 9 月的 Claude Code 使用紀錄後發現，有高達 96% 的輸入 Token 都是在重讀先前的內容。平均每次呼叫模型，都要重新讀取約 19.6 萬個 Token。

這也代表，自架 DeepSeek 瓶頸不是一秒能生成多少 Token，還要考慮大量重複讀取上下文所花掉的運算資源。

實際測算後，這台配備 4 張 H200 的主機，一天大約只能處理 200 億個 Token，但這家公司 9 月最忙的一天，Claude Code 的使用量就高達 510 億個 Token，等於一台 4×H200 主機根本無法滿足尖峰時期的需求。

不僅如此，他們這次實驗也發現到資安問題。

不過這裡要先說清楚，問題不在 DeepSeek 模型本身，而是這家公司替 AI 代理準備的「沙箱」環境。

安全審查過程中，團隊多次找到可以突破限制的方法，因此這個隔離環境不夠安全，最終導致公司沒有讓 DeepSeek 修改正式程式碼。

因此這次測試中，DeepSeek 主要只負責「讀程式碼、找問題」。團隊同時啟動約 48～64 個唯讀審查代理，掃描了 2,377 個資料夾，最後產出 32 份 bug 報告。

整個測試大約跑了 3 小時，使用 Spot 價格約花 28 美元；如果按照一般隨需價格計算，則約為 55 美元。

下方是最終結果。如果跑滿一整個月，自架 DeepSeek 的費用會遠高於之前 Claude Code 訂閱：

當然，他們並沒有真的讓 4 張 H200 連續跑滿一個月，13,200 美元只是依照隨需價格推算出來的，因此不能單憑這次測試就認定「自架模型一定比雲端 AI 貴」。

不過至少從這次的實測來看，除了 GPU 租用成本之外，自架大型模型還得考慮部署、調校、維護以及工程師投入的時間成本。對前這種 Claude Code 高使用量與工作模式來說，繼續使用雲端 AI 確實更好。