繁
← 全部文章

Liquid AI本機代理需要一份完整部署預算

本機代理的部署預算,應同時涵蓋記憶體、授權與真正完成的工作。

作者Open Market Notes類型文章
米白背景上,以黑色手繪線條描繪筆記型電腦及記憶體、時鐘、授權符號,輔以少量紅色點綴。

分析|2026年10月14日。

Liquid AI於10月13日發布LFM2.5-24B-A2B,讓本機代理採購成為當下值得討論的問題。發布公告。真正需要判斷的是:當任務、人員與業務規模正常變化時,企業能否持續營運一批可靠的裝置。我們建議以整個部署使用期內「一項驗收通過的業務成果」為評估單位,而不是把下載模型當成採購的全部。

容量是整台裝置的問題

模型卡列出240億總參數、24.5億啟用參數。模型卡。

先做一個明確簡化的儲存計算:240億個數值,每個恰好占4位元,需要120億位元組,即十進位12 GB。這只是算術,不是實測下載大小,也不表示一台12 GB記憶體的電腦就能執行該模型。實際格式、輔助資料與執行過程需要另行測量。

Hugging Face文件指出,快取占用會限制長上下文執行。快取文件。因此,我們建議在驗收紀錄中分別填寫確切的模型套件,以及典型工作期間整台裝置的記憶體峰值。測量時應讓員工的其他應用程式保持開啟,讓對話累積到實際長度,並讓多個任務同時競爭資源。在一台閒置機器上的單純展示,無法替這部分執行餘裕定價。

將使用權限納入成本模型

Liquid的授權將商業使用與1,000萬美元年營收門檻連結。授權與條款。

我們的採購問題是:企業情況改變後,部署預算會如何變化?由誰核對資格、記錄適用協議,並在需要不同條款時取得報價?在模型成為營運依賴之前,這些問題就應有答案。這是建議採用的採購控制措施,不是對某家企業資格的法律判斷。

有意義的比較,是條件明確的本機方案與條件明確的託管方案之間的比較。雙方都需要確定任務範圍、支援責任與預期使用週期。未知的商業條款應保留為待定成本項;將其計為零,會讓比較顯得比現有證據更加精確。

先數完成的工作,再解釋耗時

我們建議將耗時拆成載入、讀取請求、產生輸出、等待工具與核驗結果。既記錄任務總時長,也記錄各部分耗時。如果產生更快,卻需要更久核驗,使用者可能收穫有限。如果離線測試可以完成,但日常版本會呼叫外部服務,就應分別記錄模型執行位置與工作流程的資料流向。

一個假設案例可以說明分母的重要性。若同一時期的硬體支出下降20%,但驗收通過的任務數量下降30%,那麼每項通過任務的硬體成本就變為基準的0.8除以0.7,約1.14倍,即上升14%。這只是說明性情境,不是Liquid AI的效能結果,也沒有計入人工時間與其他成本。

下一步需要怎樣的證據

可信的部署方案應附上帶版本的模型套件、典型長對話的記憶體紀錄、授權適用性結論,以及任務層面的成本比較,還應說明哪些裝置與任務尚未測試。我們沒有獨立測試該模型,也沒有取得商業協議報價。本文的分析結論更為有限:只有技術容量、使用權限與驗收通過的產出能夠納入同一份營運計畫,本機部署才構成可評估的經濟方案。

內容僅供參考,不構成投資、法律、稅務或財務建議。