Etusivu Tutki Apua
Kirjaudu sisään
vdd
/
nitter
peilaus alkaen https://github.com/zedeus/nitter
1
0
Fork 0
Tiedostot Ongelmat 0 Wiki
Selaa lähdekoodia

Add Crawl-delay to robots.txt

Zed 3 vuotta sitten
vanhempi
b5dee25b37
commit
6c4c691fe7
1 muutettua tiedostoa jossa 1 lisäystä ja 0 poistoa
Jaettu näkymä Näytä diff tilastot
  1. 1 0
      public/robots.txt

+ 1 - 0
public/robots.txt
Näytä tiedosto 

@@ -1,4 +1,5 @@
 
 User-agent: *
 
 Disallow: /
 
+Crawl-delay: 1
 
 User-agent: Twitterbot
 
 Disallow: