Agent 工具契约

结构化输出与工具契约:让 Agent 动作可校验

OPNFTR 原创内容,围绕 AI、技术与实践展开。

OPNFTR 原创内容
AgentJSON Schema工具调用审计

模型输出不是业务事实

把模型输出当作不可信输入。先用 JSON Schema 约束字段,再在服务端校验枚举、范围、资源归属和当前状态。Schema 通过不代表动作合法,业务规则仍要单独执行。

工具契约至少应包含:

名称、版本、输入 Schema、输出 Schema、权限范围、超时、幂等键、错误类型

工具版本应和任务记录绑定。字段变更时保留向后兼容解析器,避免旧任务在重试时调用到不兼容接口。

用策略层隔离副作用

Agent 可以提出“创建退款”候选动作,但只能由策略层确认金额、订单状态和操作者权限。高风险动作进入人工确认队列;拒绝原因和证据写入审计日志。外部 API 超时要返回可重试状态,而不是重复执行副作用。

测试正常和恶意路径

为每个工具准备无效类型、越权资源、过期状态、重复幂等键和超时样本。通过契约测试锁定输入输出,使用重放测试确认失败后不会重复发消息、写库或扣款。

资料来源

参考 OpenAI Structured Outputs、JSON Schema 和 OWASP Agentic AI 威胁。

返回知识列表
AI AgentAI Agent:从基础概念到实际应用Agent · 工具调用 · 工作流
产品中心 Demo · V0.3