Version du 21 septembre 2016 à 16:41

Lien court vers cette page : http://vt.cx/rt
QR code vers cette page : http://vt.cx/rt.qr

Présentation

Le document texte robots.txt placé à la racine des sites Internet servent, en théorie, à indiquer les dossiers dont on ne souhaite pas l'indexation par les moteurs de recherches. Il ne faut pas compter sur robots.txt pour assurer une quelconque confidentialité d'un contenu placé en ligne car de nombreux bots et moteurs de recherche ne tiennent pas compte. Ainsi Google indexe les contenu, malgré ce qu'il indique à https://support.google.com/webmasters/answer/6062608?hl=fr, comme l'atteste la copie d'écran ci-dessous. Pour une bonne sécurisation de dossiers sensibles, il est donc préférable de recourir à la protections par mots de passe très facilement réalisable sur tout site grâce à .htaccess.


Exemple d'un document dont l'UPU ne voulait pas l'indexation par un moteur de recherche

Liens utiles

• robots-txt.com Manuel d'implémentation
• support.google.com robots.txt et Google
• upu.int robots.txt' du site upu.int

Articles Vulgum Techus

• robots.txt pour B2Evolution
• robots.txt pour MediaWiki
• robots.txt de Le bon coin

Articles Externes

• NEXT INpact - 16/07/14 Google met à jour son outil de test du fichier Robots.txt
• NEXT INpact - 05/07/14 20 ans de robots.txt : Google se protège des Terminator, d'autres s'amusent

Commentaires