suit: robots.txt wird von Google ignoriert

Beitrag lesen

[...] und das macht man nicht mit der robots.txt sondern mit den metatags zur Indexierung.

Sagt wer? Mir ist kein namhafter Crawler bekannt, der die robots.txt-Files ignoriert.