Cuándo visita

Solo cuando alguien mide una página de este sitio, gratis o comprando un informe, y una vez más cuando se escribe un informe comprado. No rastrea, no sigue enlaces y nunca vuelve por su cuenta.

Las cifras mensuales del censo no salen de este bot: salen del rastreo público de HTTP Archive.

Qué pide

Seis peticiones a la vez al origen de la página que se mide. Sigue hasta cinco redirecciones, y firma cada una para su propio host.

  • La propia página.
  • /robots.txt, para contar a qué agentes de IA deja entrar.
  • /llms.txt y /sitemap.xml, para contar si existen.
  • /.well-known/ard.json, para contar si el sitio se describe ante los registros de agentes.
  • /agentic-web-census-probe-404, una ruta que no existe, para ver cómo responde el servidor a una página que falta.

Cómo reconocerlo

Su User-Agent es AgenticWebCensusBot/1 (+https://agenticwebcensus.com/about). No se hace pasar por un navegador, no ejecuta JavaScript y no intenta resolver ningún reto.

Cada petición lleva una firma Web Bot Auth: HTTP Message Signatures con una clave Ed25519, la cabecera Signature-Agent: "https://agenticwebcensus.com" y la clave pública publicada en https://agenticwebcensus.com/.well-known/http-message-signatures-directory.

Qué guarda

El estado de cada respuesta, una lista corta de cabeceras que lee el informe (tipo de contenido, caché, servidor, la tecnología que anuncia y la cabecera de reto de Cloudflare) y los primeros 512 KiB de la página y del robots.txt. No guarda cookies.

Cómo pararlo o escribirnos

Puedes rechazarlo por su User-Agent en tu servidor o en tu CDN. Para cualquier cosa sobre él, escribe a [email protected].