先做自動化,再做 Agent
穩定的自動化應先用確定性規則和步驟解決問題,只有在輸入理解、分類或例外處理需要判斷時才引入模型。把模型放在邊界清楚的節點,流程才容易測試、暫停和恢復。
工作流程骨架
觸發 -> 驗證 -> 取得上下文 -> AI 判斷 -> 人工確認(可選)
-> 執行動作 -> 驗證結果 -> 通知與稽核
每個節點都要定義輸入、輸出、逾時、重試和失敗去向。外部 API 和佇列可能重複投遞,因此動作節點使用冪等鍵;長任務要保存 checkpoint,重啟後從最近成功節點繼續。
隔離非確定性
模型節點只輸出受 schema 約束的分類、欄位或候選動作,不直接操作資料庫。接著由規則節點檢查權限、金額、目標物件和業務狀態。低信心或高風險結果進入人工佇列,並記錄最終決定。
const proposal = await classify(input);
const action = ActionSchema.parse(proposal);
if (!policy.allows(action, context)) return pause("approval_required");
await executeOnce(action, { idempotencyKey: run.id });
可觀測性與重播
記錄 run、step、輸入摘要、模型版本、提示詞版本、延遲、token、重試和最終狀態。敏感資料只保存必要摘要或雜湊。用固定樣本做回歸,比較分類準確率、人工升級率、成功率和單位成本。不要把「模型說對了」當作唯一驗收標準。
何時不該用 AI
固定欄位映射、簡單閾值、權限判斷和財務計算應使用程式碼。錯誤代價高、輸入格式穩定且規則可表達時,確定性邏輯更便宜也更容易稽核。
