学ぶ

サイト運営者はどのAIクローラーを調べている? 16のボットの検索データ

サーバーログに見慣れないユーザーエージェントが現れると、人はその名前を検索します。16のAIクローラーについてその需要を調べたところ、引用されるかどうかを決めるボットほど、誰にも調べられていませんでした。

クローラーロボットが並ぶ図。そのうち3体にブロック済みの印が付いている
リサーチ

主な発見

データ

ユーザーエージェント運営元・役割米国 / 月全世界 / 月
GPTBotOpenAI · 学習3501,900
BytespiderByteDance · クローラー2001,600
OAI-SearchBotOpenAI · 検索2001,100
CCBotCommon Crawl · 学習用コーパス1501,000
Meta-ExternalAgentMeta · 学習1501,000
AmazonbotAmazon150800
PerplexityBotPerplexity · 検索80500
Google-ExtendedGoogle · Gemini学習・グラウンディング用トークン80450
Claude-SearchBotAnthropic · 検索50250
ChatGPT-UserOpenAI · ユーザー起点のフェッチ40150
DuckAssistBotDuckDuckGo · 回答30150
Applebot-ExtendedApple · 学習用トークン30100
anthropic-aiAnthropic · 旧トークン1080
Claude-UserAnthropic · ユーザー起点のフェッチ1020
Perplexity-UserPerplexity · ユーザー起点のフェッチ1020

ClaudeBotの問題

「claudebot」は米国で月間4,700回、世界で14,000回検索されており、表に入れれば群を抜いて最も検索されるクローラーになります。ただ、Ahrefsはこの語を親トピック「claude」に分類しています。検索の多くは、Anthropicのクローラーではなく、チャットボットのClaudeを探す人によるものとみてほぼ間違いありません。そのため表からは外しました。この数字は発見ではなく、上限値として扱ってください。

この差が重要な理由

GPTBotのような学習用クローラーをブロックすると、ページは今後のモデル学習から外れますが、ChatGPTのライブ検索の回答からは外れません。ライブでの引用を左右するクローラー(OAI-SearchBot、Claude-SearchBot、PerplexityBot)には、ごくわずかな注目しか集まっていません。危ないのは、GPTBotについて読んで広めのブロックを書き、検索クローラーまで一緒に止めてしまう運営者です。AIクローラーとrobots.txtのガイドでは、各運営元がボットをブロックすると何が変わると説明しているかを、ドキュメントへのリンク付きでまとめています。無料のAIクローラーチェッカーでは、現在のrobots.txtがどのクローラーを許可しているかを確認できます。

ブロックに関する検索は少なめです。「block ai crawlers」は米国で月間約70回、「block gptbot」は約40回です。ボット名を検索する人の多くは、対処を決める前にまずそれが何なのかを知りたいようです。

調査方法と限界

検索ボリュームは、SiteWideコネクタ経由で2026年10月25日に取得したAhrefs Keywords Explorerの月間平均検索数の推定値です。Google自身の数値ではなくモデルによる推定で、Ahrefsが丸めています。KDはAhrefsのキーワード難易度(0〜100)、CPCは米国で広告主がクリックあたりに支払う額のAhrefsによる推定です。役割ラベルは各運営元が公開している内容を要約したものです。出典は、リンク先のガイドをご覧ください。検索関心が示すのは関心の高さであり、クロール量やトラフィックではありません。頻繁にクロールしているのに、ほとんど検索されないボットもあります。

引用する

リンクを添えていただければ、これらの数値の引用やグラフ化は自由です。引用表記の例:Mentioned, “Which AI Crawlers Do Site Owners Look Up? Search Data for 16 Bots,” October 25, 2026, https://mentioned.at/learn/ai-crawler-search-demand。データと本文はCC BY 4.0で公開しています。

無料チェックを実行