SEO Test - Verifica del comportamento di GoogleBot e degli altri spider in presenza di anomalie nel file robots.txt

Lo scopo di questo test č verificare il comportamento dei Motori di ricerca in presenza di anomalie all'interno delle regole contenute nel file Robots.txt.
Il sospeto, che nasce da indizi che illustrerņ nel post insieme agli esiti del test, riguarda in particolare Google. Da quanto ho osservato ho il motivo di pensare che Googleboot interpreti anche file robots.txt con regole non formalmente corrette.