AI 爬虫读取服务器发出的 HTML,不运行 JavaScript。我们用同样的方式读取了 486 个访问量最大的网站首页,并统计了其中的结构化数据。
sameAs 链接到其他地方的资料页。SearchAction。Vercel 2024年12月对爬虫流量的分析发现,“none of the major AI crawlers currently render JavaScript”,包括 GPTBot、ClaudeBot 和 PerplexityBot(Vercel)。Googlebot 会渲染页面;按这份分析,AI 爬虫只拿服务器发来的内容。所以由标签管理器注入的 JSON-LD,或完全在浏览器中构建的首页,在你的浏览器里看起来完整,在它们眼中却可能是空的。本页的所有数据都是这样测得的:一次请求,不运行 JavaScript。
| 指标 | 首页 | 占比 |
|---|---|---|
| 有 JSON-LD | 231 | 47.5% |
| 有任意结构化数据(JSON-LD、microdata 或 RDFa) | 252 | 51.9% |
| microdata 或 RDFa | 49 | 10.1% |
| Organization 或 Corporation 节点 | 152 | 31.3% |
… 带 sameAs 链接 | 129 | 26.5% |
| WebSite 节点 | 145 | 29.8% |
| FAQPage 节点 | 13 | 2.7% |
| 无法解析的 JSON-LD | 1 | 0.2% |
| JavaScript 运行前少于 100 个词 | 111 | 22.8% |
首页上有 noindex | 7 | 1.4% |
没有人证明过。Google 表示出现在 AI Overviews 或 AI Mode 中不需要特殊标记(Google Search Central),AI 公司的爬虫文档也没有提到 schema。带 sameAs 链接的 Organization 节点所做的,是在一个机器可读的地方说明你是谁、你还在哪里存在,而这正是助手容易出错的那类事实。我们的schema 标记与 AI 引用指南梳理了相关证据。
sameAs 链接。我们选取了 Tranco 列表 GQ3LK 的前 10,000 个域名(这是一个研究用排名,综合了 Chrome UX Report、Cloudflare Radar、Cisco Umbrella、Majestic 和 Farsight 在 2026年9月28日至10月27日的数据)。2026年10月28日,我们的爬虫通过 HTTPS 请求每个域名的首页,并跟随重定向。许多 Tranco 条目是没有网站的 CDN、API 或跟踪域名:2,155 个完全没有 HTTP 响应,1,415 个返回 403。我们保留了首页返回状态 200 HTML 页面的 5,480 个域名,按重定向后的最终主机名各计一次。研究的这一部分使用排名前 1,000 的 486 个网站;3 个超过 3 MB 的首页被排除。
每个首页都用我们结构化数据检查器背后的解析器读取:JSON-LD 块及其 schema.org 类型、microdata 和 RDFa 属性、robots 元标签和 X-Robots-Tag 标头,以及所提供 HTML 中可见文字的词数。类型按每个首页计一次,包括嵌套节点。我们只测量了首页;产品页和文章页通常有更多标记。我们的爬虫自称 Mentioned-Research/1.0。在防火墙层拒绝未知机器人的网站不在样本中,而这些网站很可能对 AI 爬虫也更严格,所以请把这里的每个屏蔽率看作下限,而不是对整个网络的估计。
欢迎引用这些数据并制作图表,请附上指向本页的链接。建议引用格式:Mentioned, “Structured Data on the Top 1,000 Homepages: What AI Crawlers See,” 2026年10月28日, https://mentioned.at/learn/homepage-structured-data-study。数据和文本以 CC BY 4.0 发布。
在我们 2026年10月的抓取中,Tranco 前 1,000 的 486 个首页里有 47.5% 在原始 HTML 中带 JSON-LD,51.9% 带某种结构化数据。
WebSite,出现在 29.8% 的首页上,其次是 Organization 28.2%(Corporation 另有 22 个)和 WebPage 20.0%。
Vercel 2024年12月的爬虫分析发现,主流 AI 爬虫都不渲染 JavaScript,所以在浏览器中添加的标记很可能对它们不可见。请把它放进服务器发出的 HTML 中。