OpenAI 公開反蒸餾防護成效:推理軌跡被竊成功率由 54% 降至 0.2%

OpenAI 於 2026 年 11 月 20 日發表技術公告,交代打擊「對抗性蒸餾」的最新進展。該公司以內部自適應紅隊測試量度攻擊者能否回收模型先前產生的受保護推理軌跡,結果顯示平均攻擊成功率由 GPT-6 Astra 舊防護的 54.0%,降至 GPT-6.2 Astra 新防護的 0.2%;針對當前請求的同一指標,則由 22.9% 降至 0.9%[1]。OpenAI 同時披露,每週針對蒸餾活動的執法行動規模由數千至數萬個帳號不等,今年夏季之後明顯增加。

為何思維鏈成為攻擊目標

OpenAI 在公告中指出,對抗性蒸餾是指未經授權使用前沿模型的輸出訓練另一個模型,然後在缺乏同等防護的情況下部署。這種做法除了涉及知識產權,亦帶來實際安全風險:在網絡安全與生物等雙用途領域,被蒸餾出來的模型可能提供原模型本來會拒絕的協助。

問題的核心在於「受保護推理」,即模型內部逐步推理的中間步驟。這些軌跡往往包含最終答案沒有透露的資訊,對另一個模型而言是極具價值的訓練資料。OpenAI 的內部研究以最終回覆、推理摘要及工具互動作為基準,發現學生模型若能取得教師模型的完整推理軌跡,在監督微調後表現普遍優於只學摘要的版本;即使再經過一輪強化學習,在最大推理預算下仍保持優勢。這說明保護推理軌跡可以直接限制網絡能力的轉移。

請求層與行動層的雙重防護

在單次請求層面,OpenAI 結合對抗訓練、輸入與輸出分類器,以及 API 層控制。對抗訓練讓模型辨識索取推理軌跡的企圖並拒絕披露,同時不影響正常的解釋請求;分類器則同時掃描助理訊息與工具呼叫參數,因為模型可能在工具參數中洩露推理而不見於最終答案,串流與非串流回應均在覆蓋範圍。

API 層的改動更為結構性:GPT-6.2 Astra 與 GPT-6.2 Sol 的受保護推理會與產生它的對話歷史綁定,訊息被改寫時後續推理會被丟棄,而防護較弱的舊模型系列亦不得讀取新模型的受保護推理。在行動層面,OpenAI 會綜合請求與帳號訊號調查協同提取行為,對違規帳號網絡執法,並與其他模型供應商分享入侵指標。

對開發者與業界的啟示

OpenAI 在公告中承認,部分防護改動亦已套用至 GPT-6 Astra。該公司建議其他開發者把紅隊、生產監控與負責任披露中找到的成功攻擊紀錄保留為回歸測試,並在評估新防護時重播原有攻擊、再讓自適應紅隊尋找繞過方法;同時應把請求層的緩解措施與行動層的調查執法結合,並與部署夥伴協調防護要求。

公告亦把蒸餾議題提升至國家安全層次,提到今年 2 月曾就 DeepSeek 試圖蒸餾美國前沿模型的活動向美國國會簡報,9 月則披露破壞一個提取受保護推理的活動,並把核心活動歸因於與 Kimi 開發商 Moonshot AI 相關的人士。對依賴 API 的開發者而言,最直接的影響是新模型對推理軌跡的跨對話、跨模型重用設下更嚴格限制,過往常見的「把加密推理搬去另一段對話再要求明文覆述」手法已被封堵。

參考資料

[1] Combatting adversarial distillation(2026-11-20)

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

*