← 返回學習路線
章節 · 已發布

AI Agent 基礎:任務、狀態與邊界

理解 Agent 與一般對話的差異,透過明確狀態與權限邊界建立最小閉環。

來源: knowledge/p24-b/collection_8023a8d754046b6c2ae7220f/tutorials/agent-foundations-and-boundaries.mdAI Agent 工程實踐
本章閱讀進度 0%學習路線進度 0% · 0/10 已完成章節繼續學習路線 →

AI Agent 是一個由模型提出下一個動作、程式執行並回饋結果的循環。關鍵不是讓模型取得廣泛權限,而是把工具、參數驗證、狀態和停止條件寫成程式契約。

核心概念

將一次執行拆成輸入、計畫、工具呼叫、觀察、下一步和完成六個階段。模型只能提出候選動作,伺服器負責驗證權限、參數範圍和冪等鍵;狀態以事件清單保存,方便重播與稽核。

from dataclasses import dataclass

@dataclass
class ToolCall:
    name: str
    args: dict

ALLOWED_TOOLS = {'lookup_ticket'}

def validate(call: ToolCall) -> None:
    if call.name not in ALLOWED_TOOLS:
        raise ValueError('tool is not allowed')
    if set(call.args) != {'ticket_id'}:
        raise ValueError('invalid arguments')
    if not str(call.args['ticket_id']).startswith('T-'):
        raise ValueError('invalid ticket id')

操作步驟

  1. 畫出狀態轉移圖,標示可自動執行與必須人工確認的節點。
  2. 為每個工具定義 JSON 輸入、回傳值、逾時和錯誤類型,並在伺服器再次驗證。
  3. 設定最大步數與總耗時,達到上限時回傳可解釋的 paused 狀態。
  4. 記錄模型版本、工具名稱、參數摘要和結果狀態,禁止記錄 token 或完整客戶正文。

適用情境

適合工單分類、資料查詢和程式碼審查;不適合直接取代付款、授予權限或不可逆的生產操作。

常見問題

如何避免循環? 同時設定步數、時間和重複動作檢測。

模型可以直接寫入資料庫嗎? 不應直接寫入;請透過受限服務函式和冪等鍵執行。

失敗時如何恢復? 將執行標記為 paused,保留事件並提供人工接管入口。

官方參考

OpenAI Agents 指南;OpenAI Agents SDK。

最後核對日期:2026-11-16。版本、介面和安全邊界請以連結的官方資料為準。

相關實戰案例

知識實戰:可稽核的工單分流 Agent知識實戰:帶人工審批的部署建議 Agent知識實戰:Agent 失敗後的證據包與人工接管

延伸閱讀

知識AI Agent:從基礎概念到實際應用知識結構化輸出與工具契約:讓 Agent 動作可驗證知識AI 自動化工作流程設計與實踐
產品中心 Demo · V0.3