AI Agent 是一個由模型提出下一個動作、程式執行並回饋結果的循環。關鍵不是讓模型取得廣泛權限,而是把工具、參數驗證、狀態和停止條件寫成程式契約。
核心概念
將一次執行拆成輸入、計畫、工具呼叫、觀察、下一步和完成六個階段。模型只能提出候選動作,伺服器負責驗證權限、參數範圍和冪等鍵;狀態以事件清單保存,方便重播與稽核。
from dataclasses import dataclass
@dataclass
class ToolCall:
name: str
args: dict
ALLOWED_TOOLS = {'lookup_ticket'}
def validate(call: ToolCall) -> None:
if call.name not in ALLOWED_TOOLS:
raise ValueError('tool is not allowed')
if set(call.args) != {'ticket_id'}:
raise ValueError('invalid arguments')
if not str(call.args['ticket_id']).startswith('T-'):
raise ValueError('invalid ticket id')
操作步驟
- 畫出狀態轉移圖,標示可自動執行與必須人工確認的節點。
- 為每個工具定義 JSON 輸入、回傳值、逾時和錯誤類型,並在伺服器再次驗證。
- 設定最大步數與總耗時,達到上限時回傳可解釋的 paused 狀態。
- 記錄模型版本、工具名稱、參數摘要和結果狀態,禁止記錄 token 或完整客戶正文。
適用情境
適合工單分類、資料查詢和程式碼審查;不適合直接取代付款、授予權限或不可逆的生產操作。
常見問題
如何避免循環? 同時設定步數、時間和重複動作檢測。
模型可以直接寫入資料庫嗎? 不應直接寫入;請透過受限服務函式和冪等鍵執行。
失敗時如何恢復? 將執行標記為 paused,保留事件並提供人工接管入口。
官方參考
OpenAI Agents 指南;OpenAI Agents SDK。
最後核對日期:2026-11-16。版本、介面和安全邊界請以連結的官方資料為準。
