robots-txt : Différence entre versions
(→Liens utiles) |
(→Liens utiles) |
||
| Ligne 29 : | Ligne 29 : | ||
* [http://robots-txt.com robots-txt.com] '''[[Manuel]]''' d'implémentation | * [http://robots-txt.com robots-txt.com] '''[[Manuel]]''' d'implémentation | ||
* [https://support.google.com/webmasters/answer/6062608?hl=fr support.google.com] '''robots.txt''' et '''[[Google]]''' | * [https://support.google.com/webmasters/answer/6062608?hl=fr support.google.com] '''robots.txt''' et '''[[Google]]''' | ||
| + | * [http://www.upu.int/robots.txt upu.int] '''robots.txt''' du '''[[site]] upu.int'' | ||
= Articles Vulgum Techus = | = Articles Vulgum Techus = | ||
Version du 19 décembre 2014 à 00:58
Lien court vers cette page : http://vt.cx/rt
QR code vers cette page : http://vt.cx/rt.qr
Présentation
Le document texte robots.txt placé à la racine des sites Internet servent, en théorie, à indiquer les dossiers dont on ne souhaite pas l'indexation par les moteurs de recherches. Il ne faut pas compter sur robots.txt pour assurer une quelconque confidentialité d'un contenu placé en ligne car de nombreux bots et moteurs de recherche ne tiennent pas compte. Ainsi Google indexe les contenu, malgré ce qu'il indique à https://support.google.com/webmasters/answer/6062608?hl=fr, comme l'atteste la copie d'écran ci-dessous. Pour une bonne sécurisation de dossiers sensibles, il est donc préférable de recourir à la protections par mots de passe très facilement réalisable sur tout site grâce à .htaccess.
Exemple d'un document dont l'UPU ne voulait pas l'indexation par un moteur de recherche
Liens utiles
- robots-txt.com Manuel d'implémentation
- support.google.com robots.txt et Google
- upu.int robots.txt' du site upu.int
Articles Vulgum Techus
Articles Externes
- NEXT INpact - 16/07/14 Google met à jour son outil de test du fichier Robots.txt
- NEXT INpact - 05/07/14 20 ans de robots.txt : Google se protège des Terminator, d'autres s'amusent
