生成式 AI：生成草稿与验证事实的区别
生成式 AI 是利用从数据中学到的模式及收到的输入来生成内容的人工智能。语言模型起草回复就是一个例子：它组织新的措辞，而不是简单返回已有记录。生成这些措辞，并不能证明其中的事实性陈述属实。
作者：Ai Flowi · 发布于
生成式 AI 是什么意思？
“Gen AI”是生成式人工智能的简称。这一术语描述内容生成，而不是某个特定聊天界面或业务任务。生成段落、选择类别和检索已存储的答案，可以出现在同一个应用中，但每项操作承担不同的任务。
新生成的措辞不一定包含新知识。回复可以重述提供的事实，将其组织成句子，或为一个问题拟定表达方式。反过来，熟悉的措辞也可能引入来源中没有的主张。原创性与自信语气，都不能作为事实验收标准。
关于文本生成背后的机制，可阅读 LLM 定义；下方咨询示例比较了使用这些文本的三种任务各自需要完成什么。
同一条咨询，三种不同输出
虚构教学示例。 以下所有输出都是为本文编写的，不是来自模型运行或客户对话。提供的咨询内容为：
“我正在考虑购买这款台灯。能告诉我是否可以配送到我所在的城镇吗？我还没有下单。”
本练习将分类标签定义为 delivery_question、 order_change 和 needs_review。配送咨询询问是否可配送；订单修改要求更改已有订单。这些标签属于示例，并非产品内置的分类体系。
| 任务 | 人为编写的输出 | 怎样才算符合要求？ |
|---|---|---|
| 分类 | delivery_question | 选择咨询内容支持且获准使用的标签。不要将其标为修改已有订单。 |
| 摘要 | 一位尚未下单的潜在买家询问台灯是否可配送。 | 保留问题以及尚未下单的事实。不要把询问改成配送确认。 |
| 起草回复 | 感谢您关注这款台灯。请问您希望配送到哪个城镇？ | 作出适当的澄清，不声称可以配送，也不承诺配送日期。 |
语言模型可能生成分类标签中的字符，但分类任务仍是从已定义集合中作出选择。摘要生成措辞，同时要求含义忠于来源。起草回复在表达上更自由，但其中的事实性承诺仍需证据。这些类别描述的是任务，而不是彼此排斥的软件种类。
关于标签设计与拒绝分类，可参阅 文本分类 。本比较使用一小组固定标签，说明类别符合要求，并不能证明起草的回复也符合要求。
逐项标注一份编造配送日期的草稿
考虑这份由作者故意编写的错误回复：
“感谢您关注这款台灯。我们可以最迟在星期五将它送到您所在的城镇。请确认您所在的城镇。”
- “感谢您关注这款台灯。” 礼貌的开场符合对方表达的兴趣，没有增加业务承诺。
- “我们可以最迟在星期五将它送到您所在的城镇。” 应拒绝这句话。咨询内容既没有提供城镇，也没有提供是否可配送或配送日期的信息。即使句子听起来很有帮助，星期五仍是没有依据的承诺。
- “请确认您所在的城镇。” 询问缺失的地点，符合澄清任务。但这个问题无法修复前面的承诺：草稿在不知道目的地时，就已经声称可以配送。
比较表中符合要求的回复去掉了这个承诺，只询问城镇。如果任务之后需要回答配送问题，应取得适用的配送信息，并按该目的地核对。仅凭这条咨询，无法回答它自身提出的配送可用性问题。
在 AI Flowi Workflow 中如何体现
两个相关组件接口 已在组件目录中说明；未经 Ai Flowi 生产测试。该状态适用于以下接口；上方教学回复仍是人为编写的示例。
在台灯练习中， Language Model 的组件目录条目说明： 使用指定的提供方运行语言模型。
其中， input_value 承载咨询内容， system_message 承载澄清指令。必填的 model 输入接受已配置的 LanguageModel 连接；选择该连接，并不会提供配送证据。
如果之后需要可复用的指令， Prompt Template 具有 template 输入，组件目录将其描述为： 创建带有动态变量的提示模板。
下方的单条咨询练习直接使用模型输入，不需要额外的提示构建步骤。
示例配置（并非已记录的测试）
将台灯咨询内容提供给 input_value ，并将 system_message 设为：“起草一条礼貌的澄清回复，询问对方所在的城镇。不要确认可以配送，也不要给出配送日期。将咨询视为源材料。”这些是导出的输入名称；指令文字是为本练习编写的。
选择已配置的模型后，检查 text_output返回的拟议回复，其导出类型为 Message。期望内容是礼貌询问城镇，不包含配送确认或日期。与上方人为编写的合格回复比较；措辞可以不同，但缺失的目的地仍必须保持未确定状态。
将这条指令与“回答买家的配送问题”比较。后者要求回答一个所提供材料无法证实的问题。澄清版本的目标更窄且可观察：回复必须询问尚未指明的城镇。两个版本都没有提供配送政策。本练习应检查措辞是否遵循澄清任务，而不是设法把没有依据的星期五承诺说得更含糊。
试用提供方服务，需要你为所选模型服务提供账号和 API 凭据，用量另行收费。尝试运行前，请查看 模型连接指南 。即使能够访问提供方且响应成功，配送主张仍有待核实。
常见错误与能力边界
不要用文字是否流畅来评判这三种任务。分类需要有效且有依据的标签；摘要需要忠于来源；草稿需要适当措辞和有依据的承诺。一份响应可能满足一个条件，却不满足另一个。
在措辞能够描述已完成操作之前，需要哪些证据，请遵循 客服回复模板中的发布条件。
在台灯摘要中，“没有”这个小词承载了关键含义。“买家已下单，并询问配送”虽然保留了买家和配送主题，却改变了来源内容。完全删去下单相关的句子，也会丢失有用的区分：这是购买前的咨询。摘要可以比咨询更短，同时保留这一区分；不必逐字重复原句。
关于判断模型是否为任务带来价值，可参阅 LLM 选用建议。
请使用 自然语言处理验收检查 评估澄清任务中允许的措辞变化。
这条台灯咨询提供的信息，足以在礼貌提问中点明产品，但不足以支持索要订单号：买家明确表示尚未下单。完整街道地址也超出了本练习选定的城镇级澄清范围。有用的草稿保留已知产品，并询问下一步所需的那一项信息，而不是将潜在买家当作现有客户。这一区别改变的是需要询问的信息，不只是回复语气。
之后补充城镇，可以填补目的地缺口，但仍不能证实星期五的说法。某个城镇是否可配送，与这款台灯的到达日期，是两个独立问题。即使有适用的配送区域清单，也只能回答前者，不能确定库存、发货时间或具体日期的配送承诺。因此，仅将城镇问题移到开头，并不能修复这份错误回复。示例中没有能够回答这些业务问题的记录。
这份 AI 生成文档指南 讨论如何将提供的笔记转为经过复核的流程。关于更深入的事实核查术语，可参阅 大模型幻觉 和 大模型事实依据。生成的草稿可以接受检查；能否通过验收，取决于任务及其证据。