2026 年 10 月 5 日，VentureBeat Intelligence 發佈了其 8 月企業 AI 脈搏調查（VB Pulse）的最新結果，數據顯示企業對 AI 代理人的態度正在發生一個值得關注的轉向：允許 AI 代理人（AI agent）在僅依靠自動化評估結果的情況下直接推送代碼或系統變更到生產環境的企業比例，從 7 月的 75% 急劇下降至 8 月的 56%。在同一時期，明確表示會在可預見未來保留人類審查環節的企業比例，由 20% 翻倍至 42%。
對於正在考慮或已經引入 AI 代理人的香港中小企業和企業決策者來說，這組數字傳遞了一個清晰的信息：AI 代理人的可靠性問題正在從理論討論轉變為實際的營運風險，企業正在集體收緊控制。
調查發現了什麼？——AI 代理人信任度的顯著轉向
VentureBeat Intelligence 的 8 月 VB Pulse 調查訪問了來自 100 人以上企業的受訪者，重點關注 AI 代理人的評估可靠性、生產失敗率和人類監督機制。以下是幾個關鍵發現：
- 自動化部署的信任度下降：在部署自主 AI 代理人的企業中，56% 表示已容許或正在建立機制讓 AI 代理人基於自動化評估結果直接推送生產變更——但這個數字比 7 月的 75% 下降了 19 個百分點。與此同時，表示不允許且不打算允許完全自動化部署的企業從 20% 上升至 35%（如包含表示「不適用」的受訪者後重新計算）。
- 「評估通過但生產失敗」事件普遍：在過去 12 個月內，61% 的受訪者表示其組織經歷過至少一次「評估通過但造成客戶端失效」的事件——即 AI 代理人或大型語言模型功能雖然通過了內部評估，但在部署後仍然導致了面向客戶的故障。
- 即時品質監控覆蓋率偏低：僅有 29% 的受訪者表示其生產監控系統圍繞即時自動化品質檢查而建立。多數企業（53%）仍依賴日誌追蹤或 API gateway 監控——這些方法主要檢查系統是否在運行，而非檢查 AI 的輸出是否正確。
- 對自動化評估的信任仍然很低：當被問及「哪個限制因素最降低你對自動化評估的信任」時，僅有 9% 的受訪者選擇了「我目前信任自動化評估」——其餘受訪者均指出了具體的限制。而在經歷過評估通過但生產失敗事件的群體中，這個數字更低至 2%。
- 評估平台正在快速更替：62% 的受訪者計劃在 12 個月內採用新的、額外的或替代性的評估平台。OpenAI 原生評估工具的使用率從 7 月的 31% 上升至 8 月的 59%，顯示市場正在快速變化。
VentureBeat 分析指出，這些變化並非單一事件驅動，而是企業在實際部署 AI 代理人後對其可靠性有了更真實的認知——當 AI 代理人第一次在沒有真人審查的情況下造成客戶端故障時，管理層對「完全信任自動化評估」的態度往往會立即改變。
這對香港企業的 AI 策略意味著什麼？
雖然 VentureBeat 的調查對象以歐美企業為主，但對香港企業的 AI 策略有幾個直接參考價值：
- 「信任但驗證」應該成為 AI 代理人的基本原則：即使最先進的 AI 模型也可能在通過評估後產生錯誤輸出。對於正在引入 AI 代理人的香港企業——無論是用於客戶服務、數據分析還是營運自動化——建立人類審查環節不是可選的「最佳實踐」，而是防止生產故障的必要措施。調查數據清楚顯示：即使是大型企業也在從「自動化優先」轉向「人類審查保留」。
- 小型企業的優勢在於可以更靈活：香港中小企業的規模意味著決策鏈更短。當大企業需要數月調整 AI 治理政策時，小型團隊可以在發現 AI 代理人的輸出問題後立即加入審查步驟。這種靈活性是大企業無法比擬的競爭優勢。
- 選擇 AI 平台時不要只看模型能力：VentureBeat 同期發佈的另一份調查——「代理編排平台」（Agentic Orchestration）報告指出，僅有 2% 的企業選擇 AI 代理人平台時主要因為背後的模型。78% 的企業更看重跨模型和工具的靈活性、生產可靠性、開發易用性和執行控制。對於香港企業來說，這意味著選擇 AI 工具時應優先考慮平台的控制能力和評估工具，而非單純追求最新最強的模型。
- 建立 AI 評估和監控文化：調查中僅 29% 企業有即時品質監控——而這個數字在資源更有限的中小企業中可能更低。對於使用 AI 代理人的香港企業，建立最基本的輸出品質檢查（即使只是簡單的抽樣人工審查）已不再是可選項，而是 AI 營運的基礎設施。
香港企業應該如何應對？
- 為 AI 代理人設定「安全邊界」：如果使用 AI 代理人處理客戶查詢、內容生成或數據處理，先明確哪些操作可以由 AI 完全自主執行、哪些必須有人類審查。從低風險、低影響的任務開始，逐步累積對 AI 代理人的信任數據。
- 投資於評估而非只是部署：許多企業在引入 AI 時將大部分精力放在部署上，而忽略了部署後的品質監控。至少建立一個簡單的評估回饋循環：AI 的輸出是否正確？如果不正確，模式是什麼？如何防止同類錯誤再次發生？
- 留意 AI 供應商的治理工具：OpenAI、Anthropic 和 Google 等平台正在推出各自的評估和監控工具。雖然不應只因為模型而選擇平台，但這些原生工具可以降低建立評估體系的初始成本。
- 不要因為 AI 能「做」就讓它「發佈」：VentureBeat 調查的核心信息是——AI 能做的事情和 AI 應該在沒有人類的情況下做的事情，是兩個完全不同的問題。對於香港中小企業，一個簡單但有效的原則是：任何影響客戶體驗或公司數據的 AI 輸出，在上線前都應該經過真人快速審查。
總結
VentureBeat Intelligence 的 8 月調查揭示了 AI 代理人信任曲線的一個重要轉捩點：企業正在從「AI 可以取代人類審查」的理想假設，回歸到「AI 需要人類監督」的務實立場。這不是對 AI 技術的否定——事實上，調查中多數企業仍在使用和擴大 AI 代理人的部署——而是對 AI 治理的成熟化。對於香港中小企業來說，這個趨勢傳達了一個直接的信息：AI 代理人可以讓你的團隊更有效率，但只有人類的判斷才能確保這些效率不會以客戶信任為代價。
參考資料：VentureBeat Intelligence — Agentic Reliability and Evaluations（2026年10月5日）