Sönke Tesch: Google treibt mich in den Wahnsinn!!!

Beitrag lesen

Sollte ich zusätzlich noch eine "robots.txt" erstellen?

Ja, eine robots.txt ist durchaus sinnvoll. Damit kannst du allerdings nur Verzeichnisse (und Seiten?) von der Indizierung ausschließen

Verzeichnisse und Seiten, kurz: jede erdenkbare URL.

Gruß,
  soenk.e