Agent 的一次请求可能包含多次模型调用和工具访问。没有关联 id、步骤耗时和 token 计数,问题只能靠猜。可观测性应服务于故障定位和预算管理,而不是记录更多个人数据。
核心概念
每次运行生成 run_id,每个模型调用和工具调用使用 span_id,并记录耗时、结果类别、估算 token 和预算剩余。日志只保存参数摘要或哈希,原始客户内容按最小期限处理。
可运行示例
from time import monotonic
def budgeted_call(call, budget: int):
started = monotonic()
result = call()
elapsed_ms = round((monotonic() - started) * 1000)
usage = int(result.get('usage', {}).get('total_tokens', 0))
if usage > budget:
raise RuntimeError('agent budget exceeded')
return {'elapsed_ms': elapsed_ms, 'tokens': usage, 'result': result}
操作步骤
- 确定 run、model、tool 三层事件字段和采样策略。
- 为每个租户或任务类型设定步骤、token、时间和费用上限。
- 在调用前检查剩余预算,在调用后记录实际用量和结果类别。
- 为超时、预算耗尽和重复工具调用设置告警与人工查看入口。
适用场景
适合多租户 Agent、批处理任务和需要审计的内部自动化。
常见问题
token 是费用吗? 不是,费用还取决于模型和供应商价格;应在配置中单独维护。
日志能保存 prompt 吗? 只有在合规且必要时,默认保存摘要和哈希。
如何定位循环? 用相同工具与参数的短窗口去重并记录循环计数。
官方参考
OpenAI Production best practices;OpenTelemetry。
最后核对日期:2026-11-16。版本、接口和安全边界以链接的官方资料为准;本文不虚构性能或费用结论。
