[...] und das macht man nicht mit der robots.txt sondern mit den metatags zur Indexierung.
Sagt wer? Mir ist kein namhafter Crawler bekannt, der die robots.txt-Files ignoriert.
[...] und das macht man nicht mit der robots.txt sondern mit den metatags zur Indexierung.
Sagt wer? Mir ist kein namhafter Crawler bekannt, der die robots.txt-Files ignoriert.