forked from IsraC0d33/Proyecto1Marcas
-
Notifications
You must be signed in to change notification settings - Fork 0
/
Copy pathrobots.txt
27 lines (17 loc) · 799 Bytes
/
robots.txt
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
# Reglas para todos los bots de rastreo
# Permite el acceso a todas las páginas excepto las que comienzan con '/.config/', '/json/' y '/assets/'.
User-agent: *
Disallow: /.config/
Disallow: /json/
Disallow: /assets/
# Reglas específicas para el bot de Google (Googlebot)
# Permite el acceso a todas las páginas ('Allow: /') y establece un retraso de rastreo de 2 segundos ('Crawl-delay: 2').
User-agent: Googlebot
Allow: /
Crawl-delay: 2
# Reglas específicas para el bot de Bing (Bingbot)
# Establece un retraso de rastreo de 5 segundos ('Crawl-delay: 5').
User-agent: Bingbot
Crawl-delay: 5
# Especifica la ubicación del archivo de sitemap para que los bots de búsqueda puedan encontrarlo.
Sitemap: https://israc0d33.github.io/Proyecto1Marcas/sitemap.xml