Главная Обзор Помощь
Вход
vdd
/
nitter
зеркало из https://github.com/zedeus/nitter
1
0
Ответвить 0
Файлы Задачи 0 Вики
Просмотр исходного кода

Add Crawl-delay to robots.txt

Zed 3 лет назад
Родитель
b5dee25b37
Сommit
6c4c691fe7
1 измененных файлов с 1 добавлено и 0 удалено
Единый вид Показать статистику Diff
  1. 1 0
      public/robots.txt

+ 1 - 0
public/robots.txt
Просмотреть файл 

@@ -1,4 +1,5 @@
 
 User-agent: *
 
 User-agent: *
 
 Disallow: /
 
 Disallow: /
 
+Crawl-delay: 1
 
 User-agent: Twitterbot
 
 User-agent: Twitterbot
 
 Disallow:
 
 Disallow: