Keine Ahnung woher das überhaupt kommt, klar ist aber dass das nicht sein sollte. Nun würde ich gerne in der robots.txt Alle URL's in /components blockieren, nur frage ich mich, geht das überhaupt? Kann ich einen ganzen Tree sperren?
Wenn ich in der robots.txt eintrage:
Code: Alles auswählen
Disallow: /components/