学习

前 1,000 个网站首页的结构化数据:AI 爬虫看到了什么

AI 爬虫读取服务器发出的 HTML,不运行 JavaScript。我们用同样的方式读取了 486 个访问量最大的网站首页,并统计了其中的结构化数据。

一个首页的源代码,旁边是抽出的 JSON-LD 块和 schema 类型统计
研究

主要发现

在 JSON-LD 中声明各 schema.org 类型的首页Tranco 前 1,000 中的 486 个首页,原始 HTML,2026年10月28日
WebSite29.8%
Organization28.2%
WebPage20.0%
BreadcrumbList8.8%
SoftwareApplication4.7%
Corporation4.5%
FAQPage2.7%
NewsMediaOrganization2.5%

为什么原始 HTML 才是关键数字

Vercel 2024年12月对爬虫流量的分析发现,“none of the major AI crawlers currently render JavaScript”,包括 GPTBot、ClaudeBot 和 PerplexityBot(Vercel)。Googlebot 会渲染页面;按这份分析,AI 爬虫只拿服务器发来的内容。所以由标签管理器注入的 JSON-LD,或完全在浏览器中构建的首页,在你的浏览器里看起来完整,在它们眼中却可能是空的。本页的所有数据都是这样测得的:一次请求,不运行 JavaScript。

完整情况

指标首页占比
有 JSON-LD23147.5%
有任意结构化数据(JSON-LD、microdata 或 RDFa)25251.9%
microdata 或 RDFa4910.1%
Organization 或 Corporation 节点15231.3%
… 带 sameAs 链接12926.5%
WebSite 节点14529.8%
FAQPage 节点132.7%
无法解析的 JSON-LD10.2%
JavaScript 运行前少于 100 个词11122.8%
首页上有 noindex71.4%

结构化数据能让你被引用吗?

没有人证明过。Google 表示出现在 AI Overviews 或 AI Mode 中不需要特殊标记(Google Search Central),AI 公司的爬虫文档也没有提到 schema。带 sameAs 链接的 Organization 节点所做的,是在一个机器可读的地方说明你是谁、你还在哪里存在,而这正是助手容易出错的那类事实。我们的schema 标记与 AI 引用指南梳理了相关证据。

在你自己的首页上要检查什么

  1. 看源代码,而不是检查器。如果你的 JSON-LD 只在脚本运行后才出现,不渲染的爬虫就看不到它。
  2. 添加一个 Organization 节点,包含你的名称、网址、标志,以及指向你真实资料页的 sameAs 链接。
  3. 把你的核心主张以文字写进 HTML。用一句平实的话说明你卖什么、卖给谁,不用 JavaScript 也能读到。
  4. 运行结构化数据检查器,它读取你页面的方式与本研究相同。

方法与局限

我们选取了 Tranco 列表 GQ3LK 的前 10,000 个域名(这是一个研究用排名,综合了 Chrome UX Report、Cloudflare Radar、Cisco Umbrella、Majestic 和 Farsight 在 2026年9月28日至10月27日的数据)。2026年10月28日,我们的爬虫通过 HTTPS 请求每个域名的首页,并跟随重定向。许多 Tranco 条目是没有网站的 CDN、API 或跟踪域名:2,155 个完全没有 HTTP 响应,1,415 个返回 403。我们保留了首页返回状态 200 HTML 页面的 5,480 个域名,按重定向后的最终主机名各计一次。研究的这一部分使用排名前 1,000 的 486 个网站;3 个超过 3 MB 的首页被排除。

每个首页都用我们结构化数据检查器背后的解析器读取:JSON-LD 块及其 schema.org 类型、microdata 和 RDFa 属性、robots 元标签和 X-Robots-Tag 标头,以及所提供 HTML 中可见文字的词数。类型按每个首页计一次,包括嵌套节点。我们只测量了首页;产品页和文章页通常有更多标记。我们的爬虫自称 Mentioned-Research/1.0。在防火墙层拒绝未知机器人的网站不在样本中,而这些网站很可能对 AI 爬虫也更严格,所以请把这里的每个屏蔽率看作下限,而不是对整个网络的估计。

引用本文

欢迎引用这些数据并制作图表,请附上指向本页的链接。建议引用格式:Mentioned, “Structured Data on the Top 1,000 Homepages: What AI Crawlers See,” 2026年10月28日, https://mentioned.at/learn/homepage-structured-data-study。数据和文本以 CC BY 4.0 发布。

问题

有多大比例的头部网站在首页使用 schema 标记?

在我们 2026年10月的抓取中,Tranco 前 1,000 的 486 个首页里有 47.5% 在原始 HTML 中带 JSON-LD,51.9% 带某种结构化数据。

首页上最常见的 schema 类型是什么?

WebSite,出现在 29.8% 的首页上,其次是 Organization 28.2%(Corporation 另有 22 个)和 WebPage 20.0%。

AI 爬虫能看到 JavaScript 添加的 JSON-LD 吗?

Vercel 2024年12月的爬虫分析发现,主流 AI 爬虫都不渲染 JavaScript,所以在浏览器中添加的标记很可能对它们不可见。请把它放进服务器发出的 HTML 中。

免费检查一次