AI 应用的第一步不是选择模型,而是定义任务边界。明确什么必须准确、什么可以交给模型、什么必须转人工,才能形成可测试的产品契约。
核心概念
需求文档至少包含用户目标、允许输入、输出 schema、证据要求、拒答条件、延迟预算、隐私边界和人工接管。把不可逆动作从模型权限中移除。
可运行示例
from dataclasses import dataclass
@dataclass(frozen=True)
class AppContract:
output_fields: tuple[str, ...]
max_input_chars: int
requires_citation: bool
human_review_on: tuple[str, ...]
contract = AppContract(('answer', 'sources'), 8000, True, ('low_confidence', 'write_action'))
assert contract.requires_citation
操作步骤
- 列出真实用户任务和失败代价,区分信息性回答与副作用操作。
- 为输出定义 JSON schema、证据字段和拒答状态。
- 记录输入长度、延迟、成本和人工接管的验收阈值。
- 把敏感数据、权限提升和支付等动作明确列为禁止自动执行。
適用情境
适合客服、知识问答、内部助手和内容生产工具的立项阶段。
常见问题
先做 Demo 再写契约可以吗? Demo 可探索,但上线前必须把边界写成可执行检查。
模型说不知道算失败吗? 对高风险任务,明确拒答通常比编造答案更安全。
官方参考
OpenAI Safety best practices;NIST AI RMF。
最后核对日期:2026-11-16。版本、接口和安全边界以链接的官方资料为准;本文不虚构性能或费用结论。
