Sollte ich zusätzlich noch eine "robots.txt" erstellen?
Ja, eine robots.txt ist durchaus sinnvoll. Damit kannst du allerdings nur Verzeichnisse (und Seiten?) von der Indizierung ausschließen
Verzeichnisse und Seiten, kurz: jede erdenkbare URL.
Gruß,
soenk.e