Aprende

¿Qué crawlers de IA buscan los dueños de sitios? Datos de búsqueda de 16 bots

Cuando aparece un user agent raro en los logs del servidor, la gente busca su nombre. Sacamos esa demanda para 16 crawlers de IA — y vimos que los bots que deciden si te citan son los que nadie busca.

Una cuadrícula de robots crawler, tres de ellos marcados como bloqueados
Investigación

Hallazgos clave

Los datos

User agentOperador · funciónEE. UU. / mesMundial / mes
GPTBotOpenAI · entrenamiento3501,900
BytespiderByteDance · crawler2001,600
OAI-SearchBotOpenAI · búsqueda2001,100
CCBotCommon Crawl · corpus de entrenamiento1501,000
Meta-ExternalAgentMeta · entrenamiento1501,000
AmazonbotAmazon150800
PerplexityBotPerplexity · búsqueda80500
Google-ExtendedGoogle · token de entrenamiento/grounding de Gemini80450
Claude-SearchBotAnthropic · búsqueda50250
ChatGPT-UserOpenAI · fetch activado por el usuario40150
DuckAssistBotDuckDuckGo · respuestas30150
Applebot-ExtendedApple · token de entrenamiento30100
anthropic-aiAnthropic · token heredado1080
Claude-UserAnthropic · fetch activado por el usuario1020
Perplexity-UserPerplexity · fetch activado por el usuario1020

El problema de ClaudeBot

“claudebot” registra 4,700 búsquedas mensuales en EE. UU. y 14,000 en todo el mundo, lo que lo haría el crawler más buscado por mucho. Lo dejamos fuera de la tabla porque Ahrefs lo clasifica bajo el tema principal “claude” — buena parte de esas búsquedas son casi seguro de gente que busca el chatbot Claude, no el crawler de Anthropic. Toma esa cifra como un tope, no como un hallazgo.

Por qué importa la brecha

Bloquear un crawler de entrenamiento como GPTBot mantiene tus páginas fuera del entrenamiento de futuros modelos; no te saca de las respuestas de búsqueda en vivo de ChatGPT. Los crawlers que sí controlan la cita en vivo — OAI-SearchBot, Claude-SearchBot, PerplexityBot — reciben una fracción de la atención. El riesgo es el dueño de un sitio que lee sobre GPTBot, escribe un bloqueo amplio y apaga también los crawlers de búsqueda. Nuestra guía de crawlers de IA y robots.txt explica qué dice cada operador que cambia al bloquear su bot, con enlaces a su documentación, y nuestro verificador de crawlers de IA gratuito te muestra cuáles permite hoy tu robots.txt.

Las búsquedas sobre bloquear son pocas: “block ai crawlers” genera unas 70 búsquedas mensuales en EE. UU. y “block gptbot” unas 40. Casi todos los que buscan el nombre de un bot parecen querer saber qué es antes de decidir.

Método y límites

Los volúmenes de búsqueda son estimaciones de Ahrefs Keywords Explorer del promedio de búsquedas mensuales, obtenidas el 25 de octubre de 2026 a través de nuestro conector SiteWide. Son estimaciones modeladas, no los conteos de Google, y Ahrefs las redondea. KD es la dificultad de palabra clave de Ahrefs (0–100). CPC es la estimación de Ahrefs de lo que pagan los anunciantes por clic en EE. UU. Las etiquetas de función resumen lo que documenta cada operador; consulta la guía enlazada para ver las fuentes. El interés de búsqueda mide curiosidad, no volumen de rastreo ni tráfico — un bot puede rastrear mucho y buscarse poco.

Cita esto

Puedes citar y graficar estas cifras con un enlace de vuelta. Cita sugerida: Mentioned, “¿Qué crawlers de IA buscan los dueños de sitios? Datos de búsqueda de 16 bots”, 25 de octubre de 2026, https://mentioned.at/learn/ai-crawler-search-demand. Los datos y el texto se publican bajo CC BY 4.0.

Haz una comprobación gratis