01

先选可验证的使用场景

适合优先尝试的是答案有明确资料来源、问题重复度高、出错后可以人工复核的场景,例如产品资料查询、制度问答和客服辅助。

涉及医疗结论、法律判断、资金审批或自动控制设备的高风险场景,不适合一开始完全自动化。

02

知识库首先是内容治理

需要确定哪些文档有效、哪个版本最新、由谁维护、谁可以查看。互相冲突或过期的文档进入系统后,AI 只会更快地传播混乱。

建议为资料设置来源、责任人、生效时间和更新规则。

03

答案必须有边界

系统应尽量展示引用来源,在没有足够证据时允许拒答,并根据用户身份限制可检索范围。高风险输出需要人工确认,不能因为使用了 AI 就跳过原有审批。

04

上线前建立评测题库

从真实业务问题中整理一批标准问题,覆盖正常、模糊、越权和无答案情况,持续记录正确性、引用质量和用户反馈。

模型或知识更新后要重复评测,避免局部优化造成其他问题。

CHECKLIST

项目沟通清单

  • 选择一个高频且可人工复核的场景
  • 清理过期、冲突和重复资料
  • 为知识设置权限和维护责任
  • 要求答案提供来源或允许拒答
  • 建立真实问题评测集
  • 保留人工审核与反馈入口
说明

本文用于一般性项目判断,不代替针对具体企业的需求调研、合同、合规或安全评估。