繁
← 全部文章

雲端模型採購:為真正可用的退出選擇算一筆帳

雲端採購能簡化購買 AI 的流程,但真正的遷移能力取決於經過測試的工作流程、完整成本和明確的退出準備。

作者Open Market Notes類型文章
裝有模型網路的便攜箱跨越兩個雲端平台碼頭,旁邊是可拆插頭和獨立帳單。

購買模型的手續可以先變簡單,生產應用卻未必同時變得容易遷移。企業沿用既有雲端服務關係採購 AI,可能獲得熟悉的帳單、已經通過審批的採購途徑,以及更充分的承諾支出使用率。這些都是實際收益。不過,企業能否把正在運作的服務移到別處,同時維持品質、控制能力和可接受的成本,仍需要另外驗證。

截至 2026 年 10 月 22 日,這個區別值得進入採購決策本身。本文討論採購與應用設計,不比較未公開的商業報價。僅僅增加一種購買管道,並不能推導出統一折扣、遷移費用或確定的節省。

帳單改變了選擇條件,卻沒有替企業完成選擇

Google 的企業採購材料說明,在客戶具有相應支出協議時,Marketplace 採購可能計入承諾支出。這裡的條件不能省略。來源:Google Cloud

假設一家企業經營 AI 客服服務,並預計用不完已經簽訂的雲端支出承諾。若模型採購符合協議條件,透過該雲端採購可能減少原本會閒置的支出,短期新增現金成本因此可能比單獨採購更有吸引力。但結論取決於合約、剩餘期限,以及其他符合條件的業務原本會消耗多少額度。只比較公開的 token 價格,無法解決這個問題。

現在只改變一個假設:企業預計正常雲端業務本來就會用完承諾額度。那麼模型採購占用的預算原本有其他有效用途,稱其「相當於免費」就隱藏了機會成本。還有第三種情況:團隊為了提高承諾使用率而採用價值有限的應用。此時帳面指標改善,業務卻未獲得多少有用成果。

因此,財務需要同時保留兩種視角。一種說明相關期間的現金和合約支出,另一種說明交付合格結果的完整成本。二者不能互相抹掉。適合本合約期的購買方式,不一定對應長期最便宜的運作設計;帳單較貴的服務,也可能因為某項能力而降低完成整項工作的成本。

統一請求格式之後,仍有行為需要驗證

技術相容確實有價值。AWS 文件介紹了統一的 Converse 介面,同時保留傳遞模型專有推論參數的方式。來源:Amazon Bedrock 文件

Google 的相容文件則說明,第三方模型的參數支援情況不同,不支援的參數會被忽略。來源:Google Cloud 文件

由此可以作出的推論有限,但重要:請求成功發出,比應用所依賴的行為得到重現,提供的證據更弱。共同的請求外殼能減少串接工作,卻不足以證明答案遵守相同約束、工具在相同節點被呼叫,或者失敗以相同方式被處理。這些問題需要應用測試,不能據此概括某家廠商的全部產品。

對前述假想客服服務而言,有意義的遷移單位應是一宗完成的客服事項,包括何時必須交給人工。替換一次模型呼叫可能容易,替換檢索設定、文件識別碼慣例或審核流程卻可能更費工夫。採購者需要查清真實依賴,不能假定每項託管功能都會形成重大障礙,也不能假定一個 API 轉接層就能消除所有障礙。

更有說明力的試驗,是搬遷一段有代表性的工作流程,而不是一條精心挑選的示範提示詞。樣本包含普通請求、證據不全、必須拒絕的困難情形,以及應該保留為未解決的案例。兩條途徑接受同一驗收標準。新途徑若增加人工複核後才合格,仍可能有用,但新增人力必須進入比較。

給通過複核的結果計價

FinOps Foundation 區分資源效率指標與業務單位指標。來源:FinOps Foundation

針對這個假想服務,我們建議使用「妥善解決的事項」作為業務單位,而不是 token 數量或嘗試回答的次數。這個定義也需要約束:系統可以透過拒絕難題、把工作推給人工,或把不確定答案標為完成,讓成本看起來更低。可信的比較要保持相同案例組成,並記錄未完成工作最後去了哪裡。還要衡量延遲,因為超過有效服務期限才抵達的結果,未必屬於同一種產出。

據此計算的成本會超出推論本身。企業還要計入準備輸入、調查失敗、複核可疑結果及運作遷移過程所需的工作。公開文件無法可靠估算一家未具名企業的這些費用。提出它們的目的,是在採購便利預設變成長年架構之前,讓決策變數顯現出來。

遷移能力也不要求企業無限期支付兩套完整生產系統的費用。團隊可以用適度規模的評估集持續驗證備用途徑,保留有權保存的資料和設定,並記下重建流程所需步驟。這是一種比瞬時故障切換更有限的退出選擇。如果主要擔心未來合約改變,而不是必須在數秒內承受一次中斷,這種選擇可能已經足夠。

整合的收益也應該留在帳上

原生平台完全可能是更好的選擇。共同的身分管理、成熟操作流程和較少的整合維護工作,可以釋放工程時間去改善真正的產品。抽象層同樣有成本:它可能遮蔽有用功能、增加故障點,並成為另一套需要維護的軟體。如果持續保持獨立的代價超過其保留選項的價值,完全獨立就不是合理目標。

更有用的問題是邊界劃在哪裡。業務驗收標準、評估樣例及已授權操作記錄,應當在某一家供應商的介面之外仍然容易理解。廠商專有實作則可以保留,只要實際收益能夠支持這種選擇。團隊應記錄未來替換具體需要做什麼,而不是把整個應用簡單標記為「可遷移」或「被鎖定」。這樣,架構偏好才會變成其他團隊可以檢驗的決策。

採購評審由此可以形成有邊界的承諾:根據已經驗證的商業與運作優勢選擇管道,寫明接受的依賴,並演練真正與業務相關的退出途徑。演練不必證明遷移毫不費力,它的價值在於用時間、品質和成本的證據,替代一個想當然存在的選項。

最終的不確定性仍在採購者自身。公開相容文件無法證明協商後的採購資格、內部人力成本或生產表現。更多購買管道擴大了談判與部署機會;能否同時擴大離開的自由,取決於應用、協議,以及企業在退出變得緊急之前做過的準備。

內容僅供參考,不構成投資、法律、稅務或財務建議。