robots.txt allow Anweisung
Verfasst: 22.10.2007, 09:01
Hallo zusammen,
ich habe ein kleines Problem und zwar habe ich eine robots.txt angelegt
und möchte einige Verzeichnisse ausschließen das hat auch immer gut geklappt. jetzt möchte ich aber ein verzeichniss freigeben und da scheint es wohl Probleme zu geben also meine robots sieht ungefähr so aus:
es gibt wohl Probleme mit der allow Anweisung wenn ich ein robts.txt check durchführe bekomme ich auch immer die Meldung das allow nicht zulässig ist. Muss ich die Verzeichnisse /images/buecher/ einfach weglassen damit diese gecrawlt werden?
könnt Ihr mir da weiterhelfen?
Liebe Grüße
willi1
ich habe ein kleines Problem und zwar habe ich eine robots.txt angelegt
und möchte einige Verzeichnisse ausschließen das hat auch immer gut geklappt. jetzt möchte ich aber ein verzeichniss freigeben und da scheint es wohl Probleme zu geben also meine robots sieht ungefähr so aus:
Code: Alles auswählen
User-agent: *
Disallow: /images/banners/
Disallow: /images/comprofiler/
Disallow: /images/Flash/
Disallow: /images/M_images/
Disallow: /images/screen/
Disallow: /images/smilies/
Disallow: /images/stories/
Allow: /images/buecher/
könnt Ihr mir da weiterhelfen?
Liebe Grüße
willi1