网页内容抓取:URL 组件(AI Flowi Workflow)
网页内容抓取组件 URL 在目录中的描述为:“从一个或多个网页获取内容,并递归跟随链接。”请根据 Extracted Pages 的 Table 端口或 Raw Content 的 Message 端口规划下一步连接。
URL 已收录于目录,但尚未经 Ai Flowi 生产环境测试。
作者:Ai Flowi · 发布日期:
目录参考
URL 在 data_source.URLComponent 条目中包含十一个导出设置,以及两个类型不同的输出端口。该条目来自 2026年10月9日导出的 AI Flowi Workflow 1.9.2;组件目录涵盖更完整的组件清单。
输入
导出文件中,URL 的所有输入都是可选的,包括 urls。布尔字段的名称表明其对应的控制项,但未提供默认值和详细行为;只有 format 列出了可选值。在手机上查看 URL 设置时,可在输入表格内横向滑动,查看说明列。
| 名称 | 类型 | 必填 | 接受的输入类型 | 说明 |
|---|---|---|---|---|
autoset_encoding | bool | 否 | 未列出 | 从名称看,用于控制自动编码。文档未提供检测规则或默认值。 |
check_response_status | bool | 否 | 未列出 | 响应状态检查控制项;未说明检查哪些状态码,以及失败时如何处理。 |
continue_on_failure | bool | 否 | 未列出 | 失败后继续执行的控制项。导出文件未指明它适用于哪些失败情况。 |
filter_text_html | bool | 否 | 未列出 | HTML/文本过滤控制项,导出文件未提供过滤规则。 |
format | str | 否 | 未列出 | 列出的内容格式选项:Text、HTML 或 Markdown。 |
headers | table | 否 | DataFrame, Table | 请求头设置,接受 DataFrame 或 Table。未提供所需的表格列。 |
max_depth | slider | 否 | 未列出 | 以滑块形式提供的递归深度控制项;未列出取值范围和起始层级。 |
prevent_outside | bool | 否 | 未列出 | 从名称看,用于阻止访问外部链接;此处未定义其适用边界。 |
timeout | int | 否 | 未列出 | 整数形式的超时设置,文档未说明单位、范围或默认值。 |
urls | str | 否 | Message | 网页地址输入,接受 Message。条目未说明如何分隔多个地址。 |
use_async | bool | 否 | 未列出 | 从名称看,用于控制异步执行。未提供并发或顺序保证。 |
列出的选项
format:Text,HTML,Markdown.
输出
| 显示名称 | 名称 | 类型 |
|---|---|---|
| Extracted Pages | page_results | Table |
| Raw Content | raw_results | Message |
page_results 的类型为 Table,raw_results 的类型为 Message。设置下游步骤时,请参阅现有的 Parser 和 Loop 参考文档,不要将这两个端口视为可以互换。
何时使用 URL
已知网页地址并需要获取内容时,可选择 URL;目录描述了递归跟随链接的功能。如果下一步需要接收表格,请阅读 Parser 或 Loop,并在连接之前检查提取的行。
何时选择其他组件
以搜索查询为起点时,请使用 Web Search。订阅源地址应使用 RSS Reader;如果要配置出站 HTTP 方法或请求体,请参阅 API Request。
最简配置
配置示例,非已记录的测试
{
"urls": "https://example.com/",
"format": "Text"
}
将示例地址填入 urls,并在 format 中选择 Text。此处使用单个地址,以免虚构多个 URL 的分隔方式。扩大采集范围前,请在编辑器中确认 max_depth 和 prevent_outside,再检查 page_results 和 raw_results;此示例未实际执行抓取。
限制
- 描述提到了递归抓取,但导出文件未提供 max_depth 的范围,也未定义 prevent_outside 的域名或路径边界。这两个设置都不能证明抓取规模有明确上限。
- 条目未说明浏览器渲染、登录会话或 JavaScript 执行的保证,因此不能据此认定组件可从动态页面或需要身份验证的页面中提取内容。
- continue_on_failure 和 check_response_status 的文档未说明错误行、重试行为或独立的错误端口。必须在配置后的实际运行中检查部分结果的处理方式。
- 目录列出了 Text、HTML 和 Markdown 格式选项,但未提供转换规则或输出示例。请求头表格的布局、超时单位和异步结果顺序也仍未说明。
连接和凭据机制请参阅连接指南;此 URL 条目未列出已保存账户选择器。
节点用量
相关组件
Web Search · RSS Reader · API Request · Parser · Loop