Warum findet jeder spider nicht mehr als den index?Hilfe!!!
Verfasst: 11.05.2004, 21:38
Hi!
hab da nen Problem. Jeder spider der meine seite checkt, checkt nur den Index, soweit meine Logs und user Tracking es Zeigen, ließt jeder spider bot nur meine Index Datei, oder läd die robots.txt runter
Hat jemand eine idee warum?
Die URL ist https://www.fashionz.it
Hier 2 auszüge aus der Log
64.68.82.170 - - [10/May/2004:06:33:50 +0200] "GET / HTTP/1.0" 200 28926 "-" "Googlebot/2.1 (+https://www.googlebot.com/bot.html)"
64.68.82.169 - - [10/May/2004:06:24:06 +0200] "GET /robots.txt HTTP/1.0" 200 24 "-" "Googlebot/2.1
Danke für jede Antwort!
tobi
hab da nen Problem. Jeder spider der meine seite checkt, checkt nur den Index, soweit meine Logs und user Tracking es Zeigen, ließt jeder spider bot nur meine Index Datei, oder läd die robots.txt runter
Hat jemand eine idee warum?
Die URL ist https://www.fashionz.it
Hier 2 auszüge aus der Log
64.68.82.170 - - [10/May/2004:06:33:50 +0200] "GET / HTTP/1.0" 200 28926 "-" "Googlebot/2.1 (+https://www.googlebot.com/bot.html)"
64.68.82.169 - - [10/May/2004:06:24:06 +0200] "GET /robots.txt HTTP/1.0" 200 24 "-" "Googlebot/2.1
Danke für jede Antwort!
tobi

