生产发布不是把模型参数换掉就结束。工具 schema、提示词、权限配置、知识源和模型版本都可能改变行为,应作为一个可回滚版本管理。
核心概念
发布包至少包含模型标识、提示词版本、工具 schema、评测结果、预算配置和回滚指针。灰度期间只放小比例、低风险任务,并监控拒答、人工接管、超时和副作用失败。
可运行示例
from dataclasses import dataclass
@dataclass(frozen=True)
class AgentRelease:
version: str
model: str
prompt_version: str
tool_schema_version: str
def can_promote(checks: dict[str, bool]) -> bool:
return all(checks.get(name, False) for name in {'eval', 'security', 'rollback', 'observability'})
操作步骤
- 冻结版本清单并运行固定回归集,保存报告和失败样本。
- 先在内部或低风险流量灰度,限制写操作并开启人工确认。
- 观察安全断言、超时、人工接管和副作用错误,达到阈值立即暂停。
- 保留上一版本运行方式和数据库兼容策略,回滚时不删除事件记录。
适用场景
适合客服、运营和内部自动化;涉及支付、删除和权限升级的动作应默认人工确认。
常见问题
灰度比例如何定? 依据风险、流量和可观察性能力,由负责人设定,不用固定数字冒充通用标准。
回滚会丢任务吗? 任务状态应持久化,旧版本继续处理兼容状态或转人工。
什么时候可以全量? 评测、权限、可观测性和回滚检查都通过后再决定。
官方参考
OpenAI Production best practices;OpenAI Safety best practices。
最后核对日期:2026-11-16。版本、接口和安全边界以链接的官方资料为准;本文不虚构性能或费用结论。
