AI 公司觀察 / DeepSeek

DeepSeek-R1 為什麼讓人重新算一次推論成本?

從 R1 的強化學習、開放權重與蒸餾版本,理解企業如何衡量推理品質和每件任務的成本。

發布日期:

DeepSeek 標誌

一百次呼叫很便宜,一百份可用結果要多少錢?

假設一家公司每晚用模型核對報表。每一筆資料都可以請模型讀欄位、找例外,再輸出一份待辦。候選模型的 API 報價低,看起來能省不少錢。實際跑完才發現,有些報表輸出太長,有些要重試,而最重要的例外還要人工確認。真正值得比較的單位,於是變成一份可以交給會計人員使用的結果。

DeepSeek 讓這筆帳值得重算,因為它先公開了基礎模型的訓練設計與部分成本估算,再以推理模型、API 和可下載權重提供不同採用途徑。企業能比較模型大小、部署位置與品質。先把訓練的數字和使用時的費用分清楚,才不會拿錯資料做採購。

V3 報告裡的 557.6 萬美元,到底算了什麼?

DeepSeek 在 V3 技術報告裡列出正式訓練約用 278.8 萬個 H800 GPU 小時。若每個 GPU 小時按 2 美元估算,就是 557.6 萬美元。報告也說明範圍,這個數字涵蓋 V3 的正式訓練,早期研究與架構、演算法和資料的消融實驗成本另外計。讀到這個數字時,應把模型名稱、費率假設和計算範圍一起看。

這點在企業採購上很實用。模型公司願意公開一場訓練使用的算力,可以幫助讀者理解設計和硬體用量的關係。企業買服務時,卻要付的是上線後的使用成本。資料整理、用戶要求的等待時間、重試次數以及維運成本,都需要另外量。V3 的算力估算對理解模型開發有用,不能直接當成 DeepSeek-R1 的訓練費用或任一產品的營運成本。

以採購報表為例,還要分清資源用量與付款金額。兩家公司用同一批硬體跑一樣久,如果租約、設備折舊或尖峰費率不同,實際帳單就會不同。技術報告的好處,是把用量和費率假設留下來,讀者可以換成自己的條件重算。

2025 年推出 R1,強化學習和蒸餾分別做什麼?

DeepSeek 在 2025 年 1 月發布 R1。公開資料也包含 R1-Zero,這個實驗在基礎模型上使用大規模強化學習,未先走一般的有監督微調步驟。R1 本身再加入少量冷啟動資料等階段,處理可讀性等問題。把兩者放在一起,就能看出公司先用實驗觀察某種訓練方法能帶來什麼,再調整流程,做出可公開提供的模型。

同一批還發布多個由 R1 蒸餾而來的模型。簡單來說,開發者可以把大模型產生的資料交給比較小的模型學習,使小模型更接近希望得到的行為。一家企業可以先用小模型試著分類工單,再保留較有能力的模型給少數需要複雜推理的工作。最後是否能省錢,要看小模型錯的地方是否容易量測,升級到大模型的比例又有多少。

權重和 API 同時發布,誰會選哪一條路?

R1 發布時,DeepSeek 同時提供線上介面與 API,並以 MIT 授權發布 R1 權重。自行部署讓團隊更能掌握運行環境、模型版本與更新時機。相應的投入是硬體、備援、資安更新、容量規劃和維運。若用蒸餾模型,還應讀該模型頁的授權說明與底層模型條款。

對資源有限的企業,API 可以先驗證業務成效,也能把硬體運轉的責任交給供應方。開放權重則讓有特殊部署需求的客戶多一種做法。兩種入口也反映 DeepSeek 的商業選擇。雲端存取能形成使用收入,權重可下載則讓開發者即使沒有先成為客戶,也能評估能否把模型放進自己的環境。模型服務會變動,正式評估時應重新查看可用版本、區域與計費。

用一週的報表,算每份合格結果的價格

回到開頭的報表案例,可以固定一週的輸入,先找出同事已經確認的正確結果。讓各種模型和部署方式讀相同報表,記錄總處理時間、重試次數、輸出長度,以及有多少筆必須交人工接手。若流程本來就有輕重之分,也能試一個組合,小模型先處理清楚的欄位,例外才改用推理模型。

最後把 API 或主機費、維護工時與人工覆核相加,再除以通過驗收的件數。也要保留幾筆容易被漏掉的邊界案例。例如某張表出現重複資料,模型卻說沒有問題。一次漏報的代價,可能超過數百筆分類帳單。DeepSeek 擴大了模型大小與部署方式的選擇,企業可以用同一套實例驗證這些選項,回答最重要的一題。用什麼配置,能在可負擔的時間和成本內,把結果穩定交給下一個人?

延伸資料

查看十篇公司專欄 · 下一篇 · xAI

LINE 洽詢