智慧代理沙箱的經濟帳:真正該買的是有效交付
主機更快,並不自動代表每項任務更便宜。把品質、延遲與完整成本放進同一個驗收框架,才能判斷效能提升是否值得付費。

Modal 在 2026 年 10 月 19 日公布的 Vera 測試中,報告了資源競爭下相對同等級 x86 GNR 最高兩倍的沙箱任務吞吐量。這是公司基準結果,並非普遍保證。Modal 原文
採購者接下來要回答的是:硬體成績怎樣變成更好的營運結果?以下是 OMN 的分析框架:比較在約定時限內完成、且通過驗收的任務總成本。僅憑處理器排名,無法完成這道判斷。
先定義分母,再談效能
假設兩台伺服器每小時分別花費 4 美元和 6 美元,能交付 800 項與 1,200 項合格任務。它們的單位成本同為 0.5 美分。第二台提供更多容量,卻沒有降低單位成本。若其中只有 900 項滿足時限,合格交付的成本就升至約 0.67 美分。以上數字僅示範計算方法,不是產品報價或實測資料。
驗收標準應在測試前確定。程式任務可以要求測試通過、修補程式可用;資料任務可以要求輸出完整、符合規定格式。重試是新增嘗試,不是新增交付。失敗嘗試消耗的資源要計入成本,卻不能計入成功產出。
這樣,討論就從機器做了多少動作,轉向組織得到了多少需要的結果。忙碌的伺服器仍然可能很昂貴。
固定任務組合,避免分母漂移
公開的 Agentless Agent Bench 使用 50 項無網路、預熱的標準解工作負載,只計通過驗證的完成次數,並排除模型輪次延遲。基準儲存庫
它不衡量推理品質。採購試驗應固定模型、提示詞、任務組合、成功判定和工具權限,只改變執行環境。否則,推理能力或任務選擇的差異,就可能被誤認成硬體收益。
另一個陷阱是任務權重。假設工作中有大量短檢查和少量長建置,某台主機可能完成更多檢查,卻讓所有建置錯過期限。因此,總數之外還要按任務類別報告結果。對重要工作單獨設定服務目標,不能讓容易任務的大量完成掩蓋關鍵任務的失敗。
找到有用的並行上限
比起能啟動多少沙箱,更有效的做法是逐步增加任務到達速度,找到服務承諾開始失守的位置。每一步記錄驗收通過率、中位延遲、高百分位延遲和總成本。要測試繁忙時段,而不只是全天平均值。
真正有用的容量,是仍滿足全部條件的最高持續任務到達率。實際運作還應在這個邊界以下留出餘裕。一次經過充分準備的一分鐘尖峰,並不能證明系統可同時應對持續突發、主機故障和環境重建。
做兩組比較:同樣預算能買到多少合格交付,以及同樣服務品質需要多少預算。前者測購買力,後者測成本。分開回答,才能避免把更貴的效能等級誤稱為節省成本。
把計費表和等待佇列一起看
Modal 文件規定,沙箱按申請資源與實際用量中較高的一項計費。資源說明
因此,實驗對象不只是硬體,也包括計費方式。記錄實際帳單口徑、記憶體、儲存、網路費用和閒置預留,不要將吞吐量改善直接換算成想像中的折扣。供應商可能提高營運效率卻不調低價格;客戶也可能得到更快回應,卻沒有減少帳單。
Linux PSI 能衡量資源停頓時間。核心文件 將它與任務時間戳記對照,區分主機資源壓力和應用程式延遲,再檢驗這種區分能否預測任務逾時。
區分容量收益與現金收益
圖表中的容量增益可以連續變化,伺服器採購和某些合約卻不能。假設一項服務需要三台機器滿足尖峰目標,新配置理論上把需求降到兩台半,實際仍可能必須付三台的錢。只有真正撤掉一個計費單位、合併其他工作或調整承諾,節省才會兌現。這同樣只是範例,並非描述任何供應商的合約。
收益也可能表現為延後下一次擴充。它有價值,但應與本月帳單下降分列。寫清每種收益在什麼需求水準下出現,以及由誰獲得:基礎設施營運方、應用團隊,還是最終客戶。否則,工程團隊看到的效率提升,容易被財務團隊誤讀成已經實現的現金節省。
還要保留不確定性範圍。在有代表性的多個運作時段重複比較,而不是用最好的一次結果編預算。如果需求或驗收率稍有變化,購買結論就會逆轉,就先降低承諾、繼續蒐集證據。穩健的決策不應要求所有樂觀假設同時成立。
轉換成本也屬於採購成本
更換硬體還有實施帳單。驗證映像與相依套件、重建產物、核對輸出,以及試驗期間維護混合環境,都需要工程時間。如果一種少見相依套件擋住了重要任務,即使平均表現很好,這個例外也必須進入決策。
按照預期的合格任務數量,把轉換成本分攤到現實的評估週期。還要檢查離峰時段:高使用率下划算的容量,在需求稀疏或波動時未必值得買。沒有必要讓每一種工作都遷移到同一種主機。
分階段上線可以保留選擇空間。先挑輸入和驗收條件清晰的一類任務,與對照組比較;只有完整費用和尾端延遲持續合格時,才擴大範圍。退出條件應和進入條件一樣明確。
採購結論應寫清四件事
要求可重現的任務組合、包含失敗與閒置承諾的成本邊界、品質與延遲門檻,以及還原路徑。再明確收益究竟是更多容量、更低帳單,還是更快交付。這些好處可以共存,卻不能互相替代。
更重要的變化,是讓執行基礎設施對智慧代理產品的最終結果負責。只計算按時交付的可用工作。當這個數字的成長快於完整成本,經濟收益才真正成立。在此之前,一項吞吐量成績適合成為嚴謹試驗的起點,還不適合直接寫進下一季的節省預算。
內容僅供參考,不構成投資、法律、稅務或財務建議。