Hallo,
ist es möglich, in einer robots.txt generell das Auslesen eines bestimmten Dateientypus, z.B.. .txt zu verbieten;
Und kann man auch das Auslesen einer .html Dokumentes in einem bestimmten Ordner verbieten, aber den Rest des Ordners auslesbar lassen?
MfG