BOSS 直聘旗下團隊釋出 Nanbeige4.3-33B 主打代理編程與辦公室協作

BOSS 直聘旗下團隊釋出 Nanbeige4.3-33B 主打代理編程與辦公室協作

2026 年 10 月 24 日,BOSS 直聘旗下 Nanbeige LLM Lab 上載 Nanbeige4.3-33B 的模型權重,模型卡於 10 月 25 日定稿。模型以 Apache 2.0 授權釋出,具備 33B dense 參數與原生 524,288 token 上下文[1],定位為 Nanbeige4.3 系列的旗艦「教師模型」,用於後續把代理能力蒸餾至更小的模型。

規格與部署方式

模型採 Llama 架構、GQA 注意力與 BF16 權重,原生上下文長度為 524,288 token,即 512K,主打代理式編程(agentic coding)與專業辦公室協作兩類場景。工具呼叫同時支援 XML 與 JSON 兩種格式,官方建議以 XML 取得較佳的工具呼叫表現。對話模板提供 enable_thinking 與 preserve_thinking 兩個開關:前者控制是否為當前回覆產生推理內容,後者控制多輪對話中是否保留先前的推理;官方建議一般對話與問答關閉 preserve_thinking,而多輪工具使用、辦公室任務與編程代理則開啟。

部署方面,模型卡提供 Transformers、SGLang 與 vLLM 三種示例,範例以四卡張量並行、GPU 記憶體使用率 0.8 起步。推理參數亦按場景分開設定:代理與工具使用建議 temperature 1.0、top_p 0.95、最多 65,536 個新 token;推理與對話則建議 temperature 0.6、最多 262,144 個新 token。以 33B dense 模型而言,即使採用 BF16,實際部署仍需要相當數量的顯存與多卡配置,並非單張消費級顯示卡可以輕鬆承載。

廠商自報的評測結果

模型卡列出與 Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B 的對比,全部模型均以最高思考強度、相同推理超參數與同一測試框架執行。Terminal-Bench 2.1 得 80.9,高於 Qwen3.8-27B 的 73.0、Muse-Glimmer-30B 的 61.8 與 Gemma4-31B 的 47.2;Terminal-Bench 4.0 得 23.8,三個對照模型分別為 6.3、1.6 與 0.0;DeepSWE 得 65.5,對手為 42.5、4.4 與 2.7。

辦公室協作方面的差距同樣明顯。Automation Bench 得 54.2,對照模型為 38.3、15.2 與 9.7;JobBench 得 44.8,對照為 34.5、16.6 與 9.0;Toolathlon-Verified 得 70.4,對照為 68.5、47.2 與 27.8。YC-bench 以最終金額計為 1,025,437 美元,三個對照模型分別為 641,290、513,978 與 265,152 美元。

模型並非全面領先。SWE-Bench Pro 得 60.3,略低於 Qwen3.8-27B 的 61.7;GDPval 得 84.8,低於 Qwen3.8-27B 的 86.4;GPQA Diamond 得 89.5,低於 Gemma4-31B 的 91.3。官方亦指出,在 JobBench 所評估的三十五個職業之中,多數情況優於基線。

定位與需注意之處

上述數字全部由廠商自行量測與公布。模型卡雖然列出各項評測所採用的測試框架,例如 mini-swe-agent v2.4.6、Terminus 2、Claude Code 測試框架,以及各自的評分方式,但未見獨立第三方覆核,閱讀時宜與社群實測結果對照,尤其 Terminal-Bench 4.0 一類難度較高的測試,不同框架之間的差異可以很大。

更值得留意的是產品定位。模型卡明言 4.3-33B 是系列中的「教師模型」,先建立高容量代理,再把能力蒸餾至 Nanbeige4.3-3B 等小模型;對真正在意部署成本的團隊而言,小模型版本才是關鍵,而現階段仍未釋出。與此同時,模型亦已衍生多個微調與量化版本,社群可直接在 Hugging Face 上取用,其基礎模型亦已同步釋出[2]。

對香港的開發團隊來說,此類以 Apache 2.0 釋出、原生支援 vLLM 與 SGLang 的中型代理模型,提供了在本地或私有雲自建代理服務的另一個選項;但在把廠商自報分數當作選型依據之前,仍應以自身工作流程的實際任務集重新測試,特別是工具呼叫的穩定度與長上下文下的表現。

參考資料

[1] Nanbeige4.3-33B model card · Hugging Face

[2] Nanbeige4.3-33B-Base · Hugging Face

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

*