Wenn Du die Dateien in Unterverzeichnisse legst und die in robots.txt sperrst, geht das. Sonst kannst Du nur alle Dateien einzeln aufführen.
laut google kann man neuerdings auch wildcards verwenden, abweichend vom Standard. Google spezifiziert aber leider nicht genau wie.
habe jetzt 2 stunden im internet nach infos gesucht, aber nichts weiteres gefunden ausser:
User-Agent: *
Disallow: /
Allow: /*.html$