Prechádzať zdrojové kódy

Add Crawl-delay to robots.txt

Zed 3 rokov pred
rodič
commit
6c4c691fe7
1 zmenil súbory, kde vykonal 1 pridanie a 0 odobranie
  1. 1 0
      public/robots.txt

+ 1 - 0
public/robots.txt

@@ -1,4 +1,5 @@
 User-agent: *
 Disallow: /
+Crawl-delay: 1
 User-agent: Twitterbot
 Disallow: