Robots.txt

Robots.txt to plik tekstowy zawierający informacje dla robotów. Ów plik wskazuje, w jaki sposób boty powinny, a w jaki nie mogą, poruszać się po naszej stronie internetowej. W pliku Robots.txt znajduje się lista podstron, do których roboty Google i inne mają dostęp, jak i takich, których nie chcemy im pokazywać. Zazwyczaj roboty mają zablokowany dostęp do podstron typu koszyk, panel klienta czy panel administratora.