This website works better with JavaScript
Accueil
Explorer
Aide
Connexion
vdd
/
nitter
miroir de
https://github.com/zedeus/nitter
Suivre
1
Voter
0
Fork
0
Fichiers
Tickets
0
Wiki
Parcourir la source
Add Crawl-delay to robots.txt
Zed
il y a 3 ans
Parent
b5dee25b37
commit
6c4c691fe7
1 fichiers modifiés
avec
1 ajouts
et
0 suppressions
Vue séparée
Afficher les stats Diff
1
0
public/robots.txt
+ 1
- 0
public/robots.txt
Voir le fichier
@@ -1,4 +1,5 @@
User-agent: *
Disallow: /
+Crawl-delay: 1
User-agent: Twitterbot
Disallow: