Habe das Forum durchsucht und zu diesem hier nichts direktes gefunden.
Auf irgendeiner internetseite, habe ich mir die "robots.txt" mal anzeigen lassen. Leider weiss ich nicht mehr welche das war. Und habe festgestellt, das in der "robots.txt" unter den eigentlichen Angaben noch Schlüsselwörter bzw. Keywords geschrieben waren. Bringt das etwas? Sie waren nicht mit dem "Kommentarzeichen versehen. So Ungefähr sa dies aus:
Code: Alles auswählen
User-agent: *
Disallow: /_notes/
Disallow: /fotos/
Disallow: /images/
Disallow: /include/
Disallow: /javascript/
Disallow: /layout/
Disallow: /musik/
Disallow: /rss/
muster beispiel musterbeispiel muster-beispiel
kann leider nicht mehr sagen ob die auch durch kommas getrennt waren.[/code]