繁
← 全部文章

OpenAI 公開模型防護測試,54% 降至 0.2% 說明什麼

這組數字只描述一類受保護推理外洩。正式服務仍要分別衡量漏放、誤攔和人工覆核。

專欄AI前沿作者Open Market Notes類型文章
米色背景上並排放著手繪文件和帶紅色勾號的盾牌。

11 月 20 日,OpenAI 公開防範未經授權模型蒸餾的評估。針對先前對話回合的受保護推理,原防護與 GPT-6 Astra 的組合平均外洩率是 54.0%,更新防護與 GPT-6.2 Astra 的組合為 0.2%。蒸餾是用一個模型的輸出協助訓練另一模型,本身不等於濫用。評估測的是特定資訊有無外洩,不是訓練已經成功、模型已被複製,或正式 API 的事件發生率。 11 月 17 日發布的 GPT-6.2 系統卡補充了版本與部署背景,亦出自 OpenAI,不構成獨立驗證。

數字有用,但須先看比較對象

模型與防護都已改變,兩組結果無法直接說明各自貢獻多少。若要釐清,宜在同一模型上比較新舊防護,另外用保留的測試樣本重新驗證。如果做不到,至少說清楚限制。報告可列樣本總數、如何合併各組、如何處理重複樣本,以及低頻結果的估計誤差。否則很難判斷 0.2% 是不是集中在少數配置。

整體平均也可能遮住局部問題。假設某版本主要在長對話出錯,短對話居多仍能把平均值拉低,但以長對話為主的使用者並不因此少承擔風險。可按語言、會話長度和產品能力公布彙總數字;樣本不夠的類別宜直接標明證據不足。外部評審可以在授權範圍內核驗版本、評估範圍與限制,對外毋須公開可能會被用來重現濫用的細節。

正常使用受阻,也是一種需要量化的結果

例如,客服團隊要用模型處理大量工單,並以固定格式摘要,正常請求自然有重複之處。若系統因此誤攔,員工可能要多次重送,或改為人工處理。評估應分別記錄合法任務的完成率、誤攔比例與恢復時間。要求覆核、短暫限制和完全阻止,對用戶的代價不一,不宜當成同一種處置成果。

NIST 的 AI 風險管理指引建議記錄測試集和測量方式,並分析代價較高的局部失誤。應用團隊可以留一組不含敏感資料的常見任務,分版本重跑;風險團隊另做經授權的防禦評估,檢查高風險輸出是否減少。兩組數字應在同一次發布審查裡對讀,才知道降低漏放有沒有帶來難以接受的誤攔。

正式環境要用另一套證據

受控測試能比較版本,不能直接當成正式服務的風險率。上線後會遇到不同用戶、配置和請求組合。營運團隊可保存去識別化且已覆核的事件紀錄,將尚未證實的警示與確認的問題分開,記下影響範圍、處理用時及後續結果。警示一時增加,可能與流量或偵測方式變動有關,也可能是實際事件上升;先檢查證據再下結論。

這則公告可支持的結論,是特定情境的防護有所改善。要判斷客戶得到的保障,仍需要測試邊界、正常使用影響和正式環境證據。寫清楚哪些版本和環境已經核對,以及哪些尚未查證,比引用一個總百分比更有價值。

資料

內容僅供參考,不構成投資、法律、稅務或財務建議。