Tools

網頁擷取

web_fetch 會執行一般的 HTTP GET,並擷取可讀內容(將 HTML 轉換為 Markdown 或文字)。它不會執行 JavaScript。若是大量使用 JS 的網站或 受登入保護的頁面,請改用網頁瀏覽器

快速開始

預設為啟用,無需設定:

javascript
await web_fetch({ url: "https://example.com/article" });

工具參數

urlstringrequired

要擷取的 URL。僅限 http(s)

extractMode'markdown' | 'text'default: markdown

擷取主要內容後的輸出格式。

maxCharsnumber

將輸出截斷至此字元數。限制在 tools.web.fetch.maxCharsCap

結果

web_fetch 會傳回封閉式結構化結果,其中包含下列欄位:

  • 請求中繼資料:urlfinalUrlstatusextractModeextractor
  • 選用的回應中繼資料:contentTypetitlewarning(不存在時省略)
  • 包裝內容中繼資料:externalContenttruncatedlengthrawLengthfetchedAttookMstext
  • 快取命中時的選用 cached: true
  • 截斷的內容寫入私人暫存檔案時的選用 spill: { path, chars, truncated? }; 僅當該檔案包含部分來源內容時,才會有 truncated

length 是包裝後的 text 長度。rawLength 是外部內容包裝前 所擷取內容的長度。

運作方式

  • 擷取

    使用類似 Chrome 的 User-Agent 和 Accept-Language 標頭傳送 HTTP GET。封鎖私人/內部主機名稱,並重新檢查重新導向。

  • 擷取內容

    對 HTML 回應執行 Readability(主要內容擷取)。

  • 後援(選用)

    如果 Readability 失敗且有可用的擷取提供者,則透過 該提供者重試(例如 Firecrawl 的機器人規避模式)。

  • 快取

    結果會快取 15 分鐘(可設定),以減少對相同 URL 的重複 擷取。

  • 進度更新

    只有在五秒後擷取仍處於等待狀態時,web_fetch 才會發出公開進度行:

    text
    正在擷取頁面內容...

    快速快取命中和迅速的網路回應會在計時器觸發前完成,因此 不會顯示進度行。取消呼叫會清除計時器。此進度行僅為頻道 UI 狀態, 絕不包含擷取的頁面內容。

    設定

    json5
    {  tools: {    web: {      fetch: {        enabled: true, // 預設值:true        provider: "firecrawl", // 選用;省略以自動偵測        maxChars: 20000, // 預設輸出字元數;上限為 maxCharsCap        maxCharsCap: 20000, // maxChars 參數的硬性上限        maxResponseBytes: 750000, // 截斷前的最大下載大小(32000-10000000)        timeoutSeconds: 30,        cacheTtlMinutes: 15,        maxRedirects: 3,        useTrustedEnvProxy: false, // 允許受信任的 HTTP(S) 環境代理伺服器解析 DNS        readability: true, // 使用 Readability 擷取        userAgent: "Mozilla/5.0 ...", // 覆寫 User-Agent        ssrfPolicy: {          allowRfc2544BenchmarkRange: true, // 選擇啟用使用 198.18.0.0/15 的受信任假 IP 代理伺服器          allowIpv6UniqueLocalRange: true, // 選擇啟用使用 fc00::/7 的受信任假 IP 代理伺服器        },      },    },  },}

    Firecrawl 後援

    如果 Readability 擷取失敗,web_fetch 可以後援至 Firecrawl,以規避機器人偵測並改善擷取效果:

    json5
    {  tools: {    web: {      fetch: {        provider: "firecrawl", // 選用;省略以根據可用認證資訊自動偵測      },    },  },  plugins: {    entries: {      firecrawl: {        enabled: true,        config: {          webFetch: {            // apiKey: "fc-...", // 選用;省略以使用免金鑰的入門存取            baseUrl: "https://api.firecrawl.dev",            onlyMainContent: true,            maxAgeMs: 172800000, // 快取期間(2 天)            timeoutSeconds: 60,          },        },      },    },  },}

    plugins.entries.firecrawl.config.webFetch.apiKey 為選用,並支援 SecretRef 物件。 舊版 tools.web.fetch.firecrawl.* 設定會透過 openclaw doctor --fix 自動移轉至 plugins.entries.firecrawl.config.webFetch

    目前的執行階段行為:

    • tools.web.fetch.provider 會明確選取擷取後援提供者。
    • 如果省略 provider,OpenClaw 會從已設定的認證資訊中,自動偵測第一個就緒的網頁擷取 提供者。非沙箱化的 web_fetch 可以使用 宣告 contracts.webFetchProviders 並在執行階段註冊相符提供者的已安裝外掛。 官方 Firecrawl 外掛目前提供此後援。
    • 沙箱化的 web_fetch 呼叫允許使用隨附提供者,以及 官方 npm 或 ClawHub 來源經過驗證的已安裝提供者。目前這會允許 官方 Firecrawl 外掛;第三方外部擷取外掛仍會遭到排除。
    • 如果停用 Readability,web_fetch 會直接跳至選定的 提供者後援。如果沒有可用的提供者,則會以封閉方式失敗。

    受信任的環境代理伺服器

    如果你的部署需要讓 web_fetch 通過受信任的對外 HTTP(S) 代理伺服器,請設定 tools.web.fetch.useTrustedEnvProxy: true

    在此模式下,OpenClaw 仍會在傳送請求前套用以主機名稱為基礎的 SSRF 檢查, 但會讓代理伺服器解析 DNS,而不是在本機進行 DNS 固定。僅當代理伺服器由操作人員控制,且會在 DNS 解析後強制執行 對外連線政策時,才啟用此功能。

    限制與安全性

    • maxChars 會限制在 tools.web.fetch.maxCharsCap(預設為 20000
    • 回應本文在剖析前會限制為 maxResponseBytes(預設為 750000,限制在 32000-10000000);過大的回應會被截斷並顯示警告
    • 私人/內部主機名稱會遭到封鎖
    • tools.web.fetch.ssrfPolicy.allowRfc2544BenchmarkRangetools.web.fetch.ssrfPolicy.allowIpv6UniqueLocalRange 是針對受信任假 IP 代理伺服器堆疊的有限選擇啟用項目; 除非你的代理伺服器擁有這些合成範圍,並強制執行其自身的目的地政策, 否則請勿設定
    • 重新導向會受到檢查,並由 maxRedirects 限制(預設為 3
    • useTrustedEnvProxy 是明確的選擇啟用項目,且僅應為 在 DNS 解析後仍會強制執行對外連線政策、由操作人員控制的代理伺服器啟用
    • web_fetch 僅為盡力處理——某些網站需要使用網頁瀏覽器

    工具設定檔

    如果你使用工具設定檔或允許清單,請新增 web_fetchgroup:web

    json5
    {  tools: {    allow: ["web_fetch"],    // 或:allow: ["group:web"](包含 web_fetch、web_search 和 x_search)  },}

    相關內容

    • 網頁搜尋——使用多個提供者搜尋網頁
    • 網頁瀏覽器——針對大量使用 JS 的網站提供完整瀏覽器自動化
    • Firecrawl——Firecrawl 搜尋與抓取工具
    Was this useful?
    On this page

    On this page