robots-txt : Différence entre versions
(→Présentation) |
|||
Ligne 21 : | Ligne 21 : | ||
= Présentation = | = Présentation = | ||
Le '''document texte robots.txt''' placé à la racine des '''[[sites Internet]]''' servent, en théorie, à indiquer les dossiers dont on ne souhaite pas l'indexation par les moteurs de recherches. Il ne faut pas compter sur '''robots.txt''' pour assurer une quelconque confidentialité d'un contenu placé en ligne car de nombreux '''[[bots]]''' et '''[[moteurs de recherche]]''' ne tiennent pas compte. Ainsi '''[[Google]]''' indexe les contenu, malgré ce qu'il indique à https://support.google.com/webmasters/answer/6062608?hl=fr, comme l'atteste la copie d'écran ci-dessous. Pour une bonne sécurisation de dossiers sensibles, il est donc préférable de recourir à la protections par '''[[mots de passe]]''' très facilement réalisable sur tout '''[[site]]''' grâce à '''[[.htaccess|htaccess]]'''. | Le '''document texte robots.txt''' placé à la racine des '''[[sites Internet]]''' servent, en théorie, à indiquer les dossiers dont on ne souhaite pas l'indexation par les moteurs de recherches. Il ne faut pas compter sur '''robots.txt''' pour assurer une quelconque confidentialité d'un contenu placé en ligne car de nombreux '''[[bots]]''' et '''[[moteurs de recherche]]''' ne tiennent pas compte. Ainsi '''[[Google]]''' indexe les contenu, malgré ce qu'il indique à https://support.google.com/webmasters/answer/6062608?hl=fr, comme l'atteste la copie d'écran ci-dessous. Pour une bonne sécurisation de dossiers sensibles, il est donc préférable de recourir à la protections par '''[[mots de passe]]''' très facilement réalisable sur tout '''[[site]]''' grâce à '''[[.htaccess|htaccess]]'''. | ||
− | <br/> | + | <br/><br/> |
[[Fichier:robots-txt UPU 141214.jpg]]<br/> | [[Fichier:robots-txt UPU 141214.jpg]]<br/> | ||
''Exemple d'un document dont l'UPU ne voulait pas l'indexation par un [[moteur de recherche]]'' | ''Exemple d'un document dont l'UPU ne voulait pas l'indexation par un [[moteur de recherche]]'' |
Version du 14 décembre 2014 à 05:36
Lien court vers cette page : http://vt.cx/rt
QR code vers cette page : http://vt.cx/rt.qr
Présentation
Le document texte robots.txt placé à la racine des sites Internet servent, en théorie, à indiquer les dossiers dont on ne souhaite pas l'indexation par les moteurs de recherches. Il ne faut pas compter sur robots.txt pour assurer une quelconque confidentialité d'un contenu placé en ligne car de nombreux bots et moteurs de recherche ne tiennent pas compte. Ainsi Google indexe les contenu, malgré ce qu'il indique à https://support.google.com/webmasters/answer/6062608?hl=fr, comme l'atteste la copie d'écran ci-dessous. Pour une bonne sécurisation de dossiers sensibles, il est donc préférable de recourir à la protections par mots de passe très facilement réalisable sur tout site grâce à htaccess.
Exemple d'un document dont l'UPU ne voulait pas l'indexation par un moteur de recherche
Liens utiles
- robots-txt.com Manuel d'implémentation
Articles Vulgum Techus
Articles Externes
- NEXT INpact - 16/07/14 Google met à jour son outil de test du fichier Robots.txt
- NEXT INpact - 05/07/14 20 ans de robots.txt : Google se protège des Terminator, d'autres s'amusent