企業在規模化部署 AI 時,最常遇到的問題之一是:用最強的模型來處理所有任務,結果是為簡單問題支付了過高的成本。Snowflake 於 8 月 18 日正式推出的 Cortex AI Gateway 動態模型路由(Dynamic Model Routing)功能,正是為了解決這個問題——據 VentureBeat 報導,該功能可將 Token 成本降低高達 3 倍。
什麼是「模型路由」?為什麼重要?
目前市場上主流的 AI 模型(如 GPT-5、Claude Opus 5、Gemini Ultra 等)雖然能力極強,但運算成本也極高。與此同時,也有許多較小、較便宜的模型(如 GPT-5 Mini、Claude Haiku、Gemini Nano 等)對於簡單任務已經足夠勝任。
傳統做法是:企業選擇一個模型並讓所有請求都經過它——但這就像「用航母送快遞」,既慢又貴。模型路由(Model Routing)的核心理念就是:根據任務的複雜度,自動選擇最適合(而非最強)的模型來處理。
Snowflake 不是唯一看到這個需求的廠商。據報導,Databricks、AWS、Google Cloud 和 Nvidia 都已宣布某種形式的模型路由技術。但 Snowflake 的策略獨特之處在於,它將路由與既有的數據治理架構深度整合。
Snowflake 的運作機制
據 VentureBeat 報導,Snowflake Cortex AI Gateway 的動態路由依賴兩種核心機制:
- 顧問模式(Advisor Pattern):較小的模型先嘗試處理任務。如果它能完成,請求就在這裡結束,成本極低。如果無法完成,它會自動將任務「升級」給更大的模型,並繼續協作完成。
- 分類器(Classifier):一個基於歷史查詢訓練的分類器,能夠自動將簡單的、例行性的問題路由到較簡單的模型,將複雜推理任務路由到旗艦模型。
此外,企業客戶仍可以手動「固定」特定模型——自動路由是可選功能,而非強制。企業可以限制路由範圍,只允許在特定的模型集合內進行選擇。
最關鍵的是:Snowflake 不對路由本身收取額外費用。定價完全基於 Token 用量——路由到較便宜的模型自然產生較低的賬單。
數據治理與安全邊界
對於香港企業尤其重要的一點是,Snowflake 將路由與其既有的角色基礎存取控制(RBAC)整合在一起。數據層的權限控制延伸到模型層——用戶角色決定了可以使用的模型範圍,再延伸到 Agent 層——Agent 的權限可以比調用它的用戶更嚴格。
此外,開源模型可以在客戶指定的區域運行,以滿足數據駐留要求。Gultekin 表示,所有推理(無論是開源還是專有模型)都保持在 Snowflake 的安全邊界內,不會路由到外部供應商。這個區域和網絡安全設定對使用非美國來源開源模型(包括 DeepSeek-V4-Flash 和 GLM-5.3)尤其重要。
為什麼香港企業需要關注模型路由?
1. AI 成本正在成為企業的隱形負擔
當企業只運行少量 AI Agent 時,模型選擇的影響不明顯。但當 Agent 數量擴展到數十、數百個時,每一個不必要的「用大模型處理小事」都在浪費金錢。Snowflake 提出的「成本可降低 3 倍」並非誇張——對於每月消耗數百萬 Token 的香港企業來說,這可能意味著每年節省數十萬甚至數百萬港元的 AI 開支。
2. 選擇模型路由策略等於選擇數據治理策略
正如分析師 Sanjeev Mohan 所說:「不要從路由開始,要從你的數據治理和平台承諾開始。」對於已在使用 Snowflake 的香港企業,在其生態內使用路由是最自然的選擇。對於使用 Databricks 的企業,則應考慮其 Unity AI Gateway。對於使用多個雲端平台的企業,中性網關(如 OpenRouter、LiteLLM)可能是更好選擇。
3. 小型企業也能從模型路由中受益
香港的 SME 可能沒有自己的 AI 基礎設施團隊,但這不意味著不能享受模型路由的好處。市面上已有不少商業化的 AI 網關服務(如 OpenRouter、Portkey),簡單配置即可將企業的 AI API 調用自動優化。此外,許多香港企業常用的 SaaS 工具(如 Salesforce、Microsoft 365)也正在整合類似的智能路由功能。
香港企業可以立即採取的行動
- 檢視現有 AI 使用模式:分析目前的 AI API 調用中,有多少是簡單任務(摘要、分類、翻譯)被不必要地發送給了旗艦模型。通常這類簡單任務佔總調用量的 60-80%。
- 評估 AI 網關方案:無論是 Snowflake Cortex AI Gateway、Databricks Unity AI Gateway、OpenRouter 還是 LiteLLM,選擇一個與現有技術棧匹配的方案進行概念驗證。
- 建立 Token 成本監控儀表板:如果你還不知道每個部門、每個應用消耗了多少 AI Token 以及對應的成本,現在就是建立監控的時候。
- 從「一個模型打天下」轉向「模型組合策略」:建立一個包含不同成本等級的模型清單,並制定規則——哪些任務用便宜模型,哪些必須用旗艦模型。
總結:AI 成本的「瑞士軍刀」思維
Snowflake 的動態模型路由功能,反映了 AI 產業正在從「一台模型打天下」邁向「智能模型組合」的新階段。對於香港企業來說,好消息是:你不需要總是使用最昂貴的模型來獲得 AI 的價值。關鍵在於建立一個能夠根據任務需求自動選擇最合適模型的系統——這不僅能降低成本,還能提升用戶體驗(因為簡單任務的回應速度更快)。
在 AI 成本已成為 CFO 關注焦點的今天,模型路由不再只是技術選項,而是企業 AI 策略的核心組成部分。早一步建立智能路由機制的企業,將在 AI 投入產出比上獲得顯著優勢。