← 返回學習路線
案例 · 已發布

實戰:Agent 失敗後的證據包與人工接管

把工具軌跡、失敗原因和下一步建議整理成可稽核的人工接管記錄。

來源: knowledge/p27/ai-agent-engineering/cases/agent-evidence-handoff.mdAI Agent 工程實踐
本章閱讀進度 0%學習路線進度 0% · 0/10 已完成章節繼續學習路線 →

問題與邊界

工單 Agent 在外部系統逾時時不能繼續猜測。本案例用記憶體事件列表模擬執行,驗證暫停、證據摘要和人工接管,不呼叫外部服務。

方案

每個事件只保存工具名稱、狀態、耗時和脫敏參數摘要。達到重試預算或出現權限錯誤時寫入 handoff 事件,介面展示下一步,而不是偽造完成。

最小實作

events = []
events.append({'type': 'tool', 'name': 'lookup_ticket', 'status': 'timeout', 'attempt': 2})
events.append({'type': 'handoff', 'reason': 'dependency_timeout', 'next': 'verify manually'})
assert events[-1]['type'] == 'handoff'
assert all('secret' not in event for event in events)

重現步驟

  1. 建立固定工單輸入和模擬逾時工具,最多允許兩次重試。
  2. 記錄工具事件和錯誤碼,確認不保存完整使用者正文或憑證。
  3. 寫入 handoff 事件,在人工介面展示工單 id、失敗原因和建議動作。
  4. 人工完成後追加 resolution 事件,保留原始失敗軌跡供回歸測試使用。

驗證清單

驗證重試上限、權限錯誤直接接管、證據脫敏,以及重複提交不會建立第二張工單。

常見問題

人工接管是否等於失敗? 它是受控的安全狀態,應和系統錯誤分開統計。

能自動把 handoff 重新交給模型嗎? 只能在人工授權和新預算下重新啟動。

延伸閱讀

官方參考

OpenAI Agents 指南;OWASP LLM Top 10。

最後核對日期:2026-11-17。介面和安全邊界以連結中的官方資料為準;本文不虛構效能或費用結論。

前置知識與教學

知識Agent 生產發布:灰度、回滾與人工接管知識Agent 重试、幂等与证据:让失败可以恢复 (原文)

延伸閱讀

知識AI Agent:從基礎概念到實際應用知識生產級提示工程:從指令到可量測契約知識結構化輸出與工具契約:讓 Agent 動作可驗證
產品中心 Demo · V0.3