← Back to learning path

This chapter has not been reviewed in English; the original Simplified Chinese is shown.

Chapter · Published

AI 应用需求拆解:先定义边界与失败 (original language)

把模糊的 AI 需求拆成输入、输出、证据、人工介入和不可做事项。

Source: knowledge/p24-c/collection_0587a2bfc47ea3584d1b1c59/tutorials/ai-app-requirements-and-boundaries.mdAI application development
Chapter progress 0%Learning path progress 0% · 0/10 chapters completedContinue learning path →

AI 应用的第一步不是选择模型,而是定义任务边界。明确什么必须准确、什么可以交给模型、什么必须转人工,才能形成可测试的产品契约。

核心概念

需求文档至少包含用户目标、允许输入、输出 schema、证据要求、拒答条件、延迟预算、隐私边界和人工接管。把不可逆动作从模型权限中移除。

可运行示例

from dataclasses import dataclass

@dataclass(frozen=True)
class AppContract:
    output_fields: tuple[str, ...]
    max_input_chars: int
    requires_citation: bool
    human_review_on: tuple[str, ...]

contract = AppContract(('answer', 'sources'), 8000, True, ('low_confidence', 'write_action'))
assert contract.requires_citation

操作步骤

  1. 列出真实用户任务和失败代价,区分信息性回答与副作用操作。
  2. 为输出定义 JSON schema、证据字段和拒答状态。
  3. 记录输入长度、延迟、成本和人工接管的验收阈值。
  4. 把敏感数据、权限提升和支付等动作明确列为禁止自动执行。

Use cases

适合客服、知识问答、内部助手和内容生产工具的立项阶段。

常见问题

先做 Demo 再写契约可以吗? Demo 可探索,但上线前必须把边界写成可执行检查。

模型说不知道算失败吗? 对高风险任务,明确拒答通常比编造答案更安全。

官方参考

OpenAI Safety best practices;NIST AI RMF。

最后核对日期:2026-11-16。版本、接口和安全边界以链接的官方资料为准;本文不虚构性能或费用结论。

Product Hub Demo · V0.3