Commit History

Автор SHA1 Съобщение Дата
  Zed 6c4c691fe7 Add Crawl-delay to robots.txt преди 3 години
  Zed 138826fb4f Fix Twitterbot rule in robots.txt преди 4 години
  Zed dfb2519870 Explicitly allow Twitterbot to generate previews преди 4 години
  minus c543a1df8c Block search engines via robots.txt (#631) преди 4 години