Adsense-Bot Crawlverhalten
Verfasst: 09.02.2005, 10:37
Bislang hat - jedenfalls soweit ich das meinen Logs entnommen habe - der Mediapartners-Googlebot lediglich dann eine Seite geholt, wenn entweder eine Seite mit AS erstmals aufgerufen wurde, eine bereits indizierte Seite mit AS sich verändert hat oder ein anzeigenfinanziertes Opera verwendet wurde. Ich stelle aber seit kurzem bei mehreren Projekten ein eigenständiges Crawlen ohne Seitenaufrufe fest. Es handelt sich um gutes, altes statisches, unverändertes HTML:
Code: Alles auswählen
66.249.65.115 - - [09/Feb/2005:09:26:46 +0100] "GET /foo/bar/a.htm HTTP/1.0" 200 5589 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.161 - - [09/Feb/2005:09:27:06 +0100] "GET /foo/b.html HTTP/1.0" 200 3205 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.115 - - [09/Feb/2005:09:27:07 +0100] "GET /foo/c.html HTTP/1.0" 200 6029 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.116 - - [09/Feb/2005:09:27:09 +0100] "GET /foo/d.html HTTP/1.0" 200 10155 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.108 - - [09/Feb/2005:09:27:15 +0100] "GET /foo/e.html HTTP/1.0" 200 1885 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.116 - - [09/Feb/2005:09:27:22 +0100] "GET /foo/bar/f.htm HTTP/1.0" 200 4060 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.169 - - [09/Feb/2005:09:27:25 +0100] "GET /foo/bar/g.htm HTTP/1.0" 200 7797 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.66.175 - - [09/Feb/2005:09:27:26 +0100] "GET /foo/bar/h.htm HTTP/1.0" 200 3930 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.71 - - [09/Feb/2005:09:27:28 +0100] "GET /foo/bar/i.htm HTTP/1.0" 200 2997 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"
66.249.65.98 - - [09/Feb/2005:09:27:32 +0100] "GET /foo/bar/j.htm HTTP/1.0" 200 5596 "-" "Mediapartners-Google/2.1 (+http://www.googlebot.com/bot.html)" "-"