Como ajusto la frecuencia y horario en que los buscadores (bots) escanean mi sitio?

Esto es muy importante para sitios que se utilizan para sistemas que se usan en horario de trabajo ó para sitios que tienen mucho trafico ya que si los robots de los buscadores indexan tu sitio en horas pico pueden causar que tu sitio se caiga afectando tu horario de trabajo.

Para controlar a los robots de Google

Google tiene un metodo para optimizar los horarios y frecuencia en que se escanea tu sitio pero si deseas tener el completo control 

1.- Entra a Google Webmaster Tools

2.- Agrega tu sitio 

3.- Selecciona tu sitio y ve a site settings o ajustes

4.- Selecciona la opcion de limitar manualmente al robot de escneo de google

5.- Por default aparecerá el marcador blanco en donde Google estima que es lo optimo para tu sitio pero como mencionamos, si detectas que Google esta alentando tu servidor baja el marcador hasta la frecuencia deseada y guarda los cambios.

Para controlar a los robots de Bing

Los Robots de Bing no estan tan optimizados como los de google asi que no saben realmente cuales son tus horas pico y pueden causar mayores problemas de lentitud. Para controlarlos sigue los pasos:

1.- Ve a Bing Network Webmaster Tools s
2.- Agrega tu sitio

3.- Selecciona tu sitio y ve a Configure my site o configurar mi sitio y selecciona crawl control o control de escaneo.

Tambien existen robots buenos como los de buscadores como Google, Bing yYahoo y robots malos que se usan solo para afectar sitios y rendimiento. Para esto debemos crear o manipular el archivo robots.txt del directorio raiz (/home/userna5/public_html/robots.txt)

Los Robots que debes permitir son:

Googlebot
Yahoo! Slurp
bingbot

Los robots conocidos que debes bloquear son:

AhrefsBot
Baiduspider
Ezooms
MJ12bot
YandexBot

Entonces si por ejemplo queremos bloquear los dos primeros robots dañoinos pondriamos:

User-agent: AhrefsBot
Disallow: /

User-agent: Baiduspider
Disallow: /