Cloudflare 推出 Markdown for Agents:讓 AI 爬蟲省 80% Token 的新功能

4 分鐘閱讀
贊助內容

AI 時代的流量入口變了,你的網站準備好迎接「非人類」訪客了嗎?Cloudflare 新推出的 Markdown for Agents 讓 AI 直接拿結構化乾貨,不再浪費 Token 啃 HTML。

我們以前做網站優化(SEO),全是為了讓「人」看得舒服、讓 Google 爬蟲看得懂。

但現在情況變了。越來越多流量來自 AI Search(如 ChatGPT Search)、Coding Agent(如 Cursor、Claude Code)。這些 AI 其實很討厭 HTML。對它們來說,網頁裡的 <nav><script>class="flex justify-center" 全是雜訊,既浪費 Token 又干擾理解。

Cloudflare 顯然看到了這個痛點,推出了 Markdown for Agents。簡單說,就是當 AI 來訪問你的網站時,Cloudflare 會自動把網頁「剝皮去骨」,只端出一盤乾淨的 Markdown 給 AI 吃。

重點是:這功能免費,而且按一個按鈕就搞定。

Cloudflare Markdown for Agents 工作流程圖

為什麼我們需要這個?

國外開發者有個很生動的比喻:

"Feeding raw HTML to an AI is like paying by the word to read packaging instead of the letter inside."

(餵 HTML 給 AI,就像是付錢請人讀信,結果對方連信封上的郵戳、廣告傳單都唸給你聽,卻還沒唸到信件內容。)

簡單說,就是浪費錢

一個簡單的 ## About Us 在 Markdown 只需要 3 個 Tokens,但轉成 HTML <h2 class="section-title" id="about">About Us</h2> 就燒掉 12-15 個 Tokens。再加上那些對 AI 毫無意義的 <div> 包裝,Token 消耗直接爆炸。

看看真實數據

Cloudflare 自家部落格的實測數據有多誇張:

  • HTML 版本:16,180 tokens
  • Markdown 版本:3,150 tokens
  • 節省比例80%

這不只是省錢,更重要的是節省了寶貴的 Context Window 空間。Markdown 基本上已經是 AI 界的標準語言,結構乾淨,AI 讀起來不費力,產出的結果自然更好。

它是怎麼做到的?

▌ 技術原理:Content Negotiation

Cloudflare 在邊緣層(Edge)直接幫你做掉這件事。技術上是利用 HTTP 的 Content Negotiation 機制。

當 AI Agent(例如 Claude Code)訪問你的網站時,只要它的 Request Header 帶上 Accept: text/markdown,Cloudflare 就會攔截請求,即時把 HTML 轉成 Markdown 回傳。

實作範例

你可以用 curl 測試一下 Cloudflare 開發者文件:

curl https://developers.cloudflare.com/fundamentals/reference/markdown-for-agents/ \
  -H "Accept: text/markdown"

如果你是在 Workers 裡面呼叫,大概會長這樣:

const r = await fetch(
  `https://developers.cloudflare.com/fundamentals/reference/markdown-for-agents/`,
  {
    headers: {
      Accept: "text/markdown, text/html", // 告訴伺服器我也吃 Markdown
    },
  }
);

// Cloudflare 還會貼心地給你一個 header 告訴你用了多少 token
const tokenCount = r.headers.get("x-markdown-tokens");
const markdown = await r.text();

誰已經在用了?

這不是未來式,是現在進行式。

許多主流的 Coding Agents —— 像是 Claude CodeOpenCode —— 已經開始在 Request 中送出這些 Headers 了。這意味著,如果你開啟了這個功能,使用這些工具的開發者在讀取你網站文件時,體驗會順暢非常多。

如何啟用?(手把手教學)

這功能目前在 Beta 階段,對 ProBusinessEnterprise 方案免費開放(SSL for SaaS 用戶也有)。

設定超級簡單,真的就是一鍵開關:

  1. 登入 Cloudflare dashboard
  2. 點進你的網站 (Zone)
  3. 在右邊找到 Quick Actions
  4. Markdown for Agents 開關打開
Cloudflare Dashboard 啟用 Markdown for Agents

Content Signals Policy:給 AI 的使用說明書

Cloudflare 會在回傳 Markdown 時自動加上 Content-Signal header:

Content-Signal: ai-train=yes, search=yes, ai-input=yes

這就像是給 AI 的「入園須知」,明確告訴它們:

  • ai-train=yes:可以拿去訓練模型
  • search=yes:可以用在搜尋結果
  • ai-input=yes:可以當作 AI 的 input(包含 agentic use)

未來 Markdown for Agents 會提供選項讓你自訂這些 Policy。

在 Cloudflare Radar 上追蹤使用情況

想知道有多少 AI 正在用 Markdown 讀你的網站嗎?

Cloudflare Radar 現在有專門的 AI Insights 頁面,可以看到全球 AI bot 和 crawler 的流量數據。你可以看到哪些 AI 正在請求 Markdown,請求量有多少。

Cloudflare Radar Content Type 分佈圖

以下是 OAI-Searchbot(OpenAI 用來驅動 ChatGPT 搜尋的 crawler)的請求數據:

OAI-Searchbot Markdown 請求數據

所有數據都可以透過 Cloudflare Radar API 取得。

其他轉換方式

如果你需要轉換的文件來源不在 Cloudflare 上,或是 Markdown for Agents 不適用,Cloudflare 還提供其他方案:

  • Workers AI AI.toMarkdown():支援多種文件類型(不只 HTML),還有摘要功能
  • Browser Rendering /markdown REST API:如果你需要先在真實瀏覽器中 render 動態頁面再轉換

結論

網路內容的消費方式變了,我們的基礎設施也該跟著變。

Markdown for Agents 的核心價值在於:

  • 省下 80% Token:降低 AI 處理成本,不管是對你還是對使用者。
  • 無痛升級:你不用改任何程式碼,Cloudflare 幫你轉。
  • SEO 新戰場:讓你的內容更容易被 AI 理解和引用。

對於網站經營者來說,這是一個零成本、高回報的優化。隨著 AI Agent 流量持續成長,這個功能會越來越重要。

真的蠻方便的,推薦大家去後台開起來!👍

關於 Cloudflare (NET)

Cloudflare 是美股上市公司(股票代碼:NET),專注於提供網路安全、效能優化和邊緣運算服務。這次推出的 Markdown for Agents 功能,展現了 Cloudflare 在 AI 時代的前瞻佈局。

從投資角度來看,Cloudflare 持續投入 AI 相關基礎建設(Workers AI、Browser Rendering、Markdown for Agents 等),搶佔 AI agents 流量的入口。隨著 AI agents 流量持續成長,Cloudflare 的邊緣運算平台可能成為 AI 應用的重要基礎設施。

👉 想了解更多 Cloudflare 股票資訊? 查看我們的 Cloudflare (NET) 市場數據頁面

References

  1. Introducing Markdown for Agents - Cloudflare Blog
  2. Markdown for Agents - Cloudflare Developer Docs
  3. Content Signals Policy
  4. Cloudflare Radar - AI Insights

關鍵字

Cloudflare, Markdown for Agents, AI agents, AI crawlers, token optimization, content negotiation, HTML to Markdown, Content Signals, Web optimization, SEO, AI-first web

贊助內容