Hugging Face 改用 OpenRouter 路由 開放權重模型一個 token 直接呼叫

Hugging Face 於 2026 年 11 月 16 日宣布與 OpenRouter 合作,把平台內部的語言模型推論路由由自建系統轉為 OpenRouter。此後,Hub 上任何有供應商提供服務的開放權重模型,開發者只需使用自己的 Hugging Face token 及同一套 API 即可呼叫,系統會按即時價格、速度與穩定度,在八十多個供應商之間為每次請求挑選最佳選擇。[1]

同一個 token 打通供應商

官方說明,是次改動屬於 Inference Providers 的底層切換:送往語言模型的請求現時全部經 OpenRouter 處理,若首選供應商失敗,系統會在同一請求內自動改派另一供應商重試,開發者程式碼毋須改動。路由同時支援 OpenAI 的 Chat Completions 與 Responses API,以及 Anthropic 的 Messages API,不論背後由哪家供應商服務。[1]

開發者亦可在模型 ID 加上後綴指定策略,例如 :cheapest 取最低價、:fastest 取最高吞吐量,或直接寫上供應商名稱只使用該家;路由具備快取感知,同一對話會盡量留在持有其提示快取的供應商,開發者可透過 X-HF-Session-Id 標頭傳入穩定的對話識別碼,令行為更明確。[1]

開放模型用量升至七成

官方引述 OpenRouter 數據指出,開放權重模型在該平台處理的 token 佔比,由 2025 年 10 月的 26.8%,升至 2026 年 9 月底的 71.7%,並曾於 7 月見頂 77.5%;期內每週開放模型用量增長超過六十倍,封閉模型則增長近十倍。本週 OpenRouter 使用

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

*