自主智能体

作者：Ai Flowi · 发布于

自主智能体在系统提供的权限和工具范围内，选择有助于达成目标的动作。自主性关注的是哪些决策无需逐步获得人工批准即可继续执行。它不意味着无限访问权限、判断必然正确，或能够从所有失败中恢复。

有用的定义应同时说明目标和边界。获准检查文档并起草回答的智能体，与获准修改业务记录的智能体，动作范围不同。不说明这些权限就将两者都称为自主智能体，会掩盖真正重要的决策。

用允许的动作定义自主性

实际权限范围，并非通用评级标准
范围智能体可做什么人工介入边界
建议根据所提供的信息提出答案。由人决定是否采用。
只读调查选择获准的检索工具，并比较观察结果。由人批准访问，并审查尚未解决的证据问题。
准备操作起草具体的拟议变更。执行前由人批准该变更。
受限执行在明确检查条件下，执行范围有限且已获授权的动作。异常和结果不明的情况需要审查。

此表用于辅助设计，并非产品认证。权限应明确关联到涉及的动作、目标位置和数据。获准读取某个来源，不代表获准编辑它。获准准备草稿，不代表获准发布它。

自主智能体如何工作

根据工具结果选择动作的机制，请参阅 ReAct 智能体。

自主性始于分配给该过程的权限。在下文的政策审查中，获准的结果是向审查者提供建议；修改政策需要另行授权。应将这一区别与任务一起记录，避免用户要求更完整的回答时，智能体权限被悄然扩大。

可观察的执行序列比智能体自称成功更重要。拟议调用不等于已执行调用。工具响应成功，仍可能缺少回答问题所需的证据。完成判定应依据经过检查的结果和明确的停止条件，而非最终回答的语气。

应明确区分固定工作流与使用工具的组件。现有的平台比较说明解释了这一区别。本页关注在作出该设计选择之后，应授予多大范围的动作权限。

一个范围受限的研究示例

假设审查者提供两段内部政策摘录，并询问某个拟议流程是否获得支持。智能体的目标是找出支持性摘录、冲突和缺失信息。它可以读取所提供的摘录并起草回应；无权修改流程或任何源记录。

添加工具前先选定停止规则：如果摘录能够回答问题，就附引用完成回应；如果不能，就报告证据不足。第二段摘录与第一段不一致，是应该指出分歧的理由，而不是编造折中方案并将其视为政策的许可。

示例配置，并非已记录的测试

Agent
input_value: the question and synthetic policy extracts
system_prompt: Use only supplied evidence. Identify conflicts.
               Request human review when evidence is insufficient.
max_iterations: 3
model: select a configured model
tools: connect only separately verified read-only tools, if needed

这里的迭代次数只是示例设置，并非实测的安全上限，也不是文档规定的默认值。如果材料包已包含所需内容，就不必添加工具。

通过模型连接指南连接你的提供方账户和 API 密钥；模型使用费用由该提供方单独收取。

在 AI Flowi Workflow 中如何体现

通过 Agent 参考文档配置这个受限研究练习；该文档说明组件的模型、任务和响应接口。

如果需要在所提供的材料包之外进行只读查询，请参阅函数调用。

决定智能体可否选择另一份已批准的文档，还是只能重读已提供的两段摘录。即使都涉及读取，这两种权限也不同。如果问题需要获准范围之外的来源，应向审查者提出补充来源的请求。不要仅为了让答案看起来完整，就扩大检索范围。

安全护栏页面讨论工具保护；这里的自主性决策，则是首先决定授予哪些能力。

对于这个材料包练习，应分别记录三项权限：解读摘录、选择获准的查询，以及提出修改后的流程。授予第一项权限，不意味着同时授予其余两项。在审查者能够说明哪些证据足以支持扩大范围之前，初始练习应仅限于解读。其组件已在组件目录中说明；未经 Ai Flowi 生产环境测试。

可逆性如何影响自主智能体的审批决策？

读取文档、准备草稿和删除共享记录的后果不同。应考虑动作能否撤销、谁会受到影响，以及什么证据能确认结果。可撤销的本地草稿仍需正确的访问权限，但其审查边界可以比不可逆的外部变更更简单。

审批工作流要求负责说明审查记录和提案版本边界。

根据后果选择自主范围：私有工作草稿可以等待常规审查，而共享流程的变更会影响可能立即依赖它的人。应判断智能体能否检查结果、获准动作是否有可靠的撤销路径，以及人工能否解决结果不明的情况。任何一项未知时，都应将范围保持在准备阶段，不进入无人值守执行。这项决策应在接入工具前作出，而非等到首次调用成功后。

停止与结果不明的情况

区分任务已完成、证据缺失、权限被拒绝和技术故障。外部请求后发生超时，可能使结果未知。立即重试可能重复执行已经发生的变更。重试结果不明的写入前，应先检查目标系统；必要时，采用另行验证过的重复操作处理设计。

迭代次数上限按具体实现限制尝试的工作量，不能证明任务已经完成。组件目录列出了 max_iterations，但未公布其默认值、有效范围或确切的终止响应。应将次数耗尽与成功回答分开测试。提供方错误应对操作人员可见，同时避免在面向用户的结果中暴露凭证。

常见错误

  • 因为任务听起来范围很广，就授予所有可用工具。应选择能回答问题的最小工具集。
  • 把友好的最终回答当作完成证据。应检查实际观察结果和所有拟议变更。
  • 把近期对话上下文与持久学习混为一谈。消息存储与后续检索是不同操作。
  • 尚未测试访问被拒绝、证据缺失和结果模糊的情况，就启用无人值守写入。成功的只读演示不能证明写入安全。

AI 安全护栏解释动作权限周围的检查。智能体记忆介绍为后续使用而保留的信息。职责拆分时，多智能体系统还需增加委派约定。扩大智能体范围之前，先查阅已在文档中说明的用例中的现有示例。

工作流用量

套餐：Go 年付方案每月 USD8 起（月付 USD10），Plus 年付方案每月 USD16 起（月付 USD20），Pro 100 年付方案每月 USD80 起（月付 USD100），Pro 200 年付方案每月 USD160 起（月付 USD200），Pro 500 年付方案每月 USD400 起（月付 USD500），每月包含 5,000 至 250,000 个 Flowi Tokens，并支持充值；每次节点运行消耗 1 个 token；不包含第三方 API 和模型使用费用。