Du befindest Dich im Archiv vom ABAKUS Online Marketing Forum. Hier kannst Du Dich für das Forum mit den aktuellen Beiträgen registrieren.

Googlebot: neues Muster --> Pausen beim Harvesting

Alles zum Thema: Robots, Spider, Logfile-Auswertung und Reports
Neues Thema Antworten
zamp
PostRank 1
PostRank 1
Beiträge: 9
Registriert: 08.04.2008, 16:06

Beitrag von zamp » 13.10.2009, 09:08

Seit etwa 2 Wochen beobachte ich ein neues Verhaltensmuster beim Googlebot: Der Bot macht beim Harvesten täglich genau eine Pause, die jeden Tag ein wenig länger wird.

Bisher hat der Googlebot bei von mir betreuten Sites rund um die Uhr Seiten abgeholt. Wenn es mal eine Pause gab, dann nur alle paar Wochen einmal ganz kurz (einmalig; fuer wenige Stunden).

Jetzt (also seit etwa 2 Wochen) macht der Googlebot an jedem Tag eine Pause, die täglich länger wird. Anfangs waren das so etwa 2 Stunden. Inzwischen dauert diese Pause fast 20 Stunden am Tag.

Mich wuerde interessieren, ob andere dieses Muster auch beobachten. Und natuerlich auch, ob jemand dafuer eine plausible Erklaerung hat.

Zum Hintergrund: Ich entwickle und administriere seit vielen Jahren u.a. zwei recht erfolgreiche General-Interest-Sites (Alexa-Top-1000 in DE; je 50M+ PI/Monat). Zwischen beiden Sites gibt es kaum Gemeinsamkeiten - sie werden bei unterschiedlichen Providern gehostet.
Von beiden Seiten hat der Googlebot bisher taeglich jeweils zwischen 500.000 und 1M Seiten gepollt. Seit dem Auftreten des oben beschriebenen Musters vor etwa 2 Wochen hat sich die Anzahl der taeglich vom Googlebot abgerufenen Seiten etwa halbiert. Erstaunlich auch, dass die Harvesting-Pausen bei den beiden Sites ziemlich genau gleichzeitig stattfinden (wie gesagt: sie liegen bei unterschiedlichen Providern).
Der Google-Serp-Traffic scheint (bisher) von dem geaenderten Googlebot-Verhalten unbeeinflusst zu sein. Im Gegenteil: Er steigt derzeit sogar ganz ordentlich.
Die Aktivitaeten des Adsense-Bots sind davon nicht betroffen -- der kommt weiter rund um die Uhr.

Ich freue mich auf Eure Einschaetzung. . .

Anzeige von ABAKUS

von Anzeige von ABAKUS »

SEO Consulting bei ABAKUS Internet Marketing
Erfahrung seit 2002
  • persönliche Betreuung
  • individuelle Beratung
  • kompetente Umsetzung

Jetzt anfragen: 0511 / 300325-0.


datensurfer
PostRank 2
PostRank 2
Beiträge: 41
Registriert: 10.06.2009, 15:07
Wohnort: Hannover

Beitrag von datensurfer » 13.10.2009, 12:44

Interessante Beobachtung, würde mich ebenfalls interessieren ob Andere ähnliche Phänomene beobachten und Interpretieren!

sempire
PostRank 3
PostRank 3
Beiträge: 81
Registriert: 10.06.2009, 12:07
Wohnort: Hamburg

Beitrag von sempire » 13.10.2009, 16:00

Die Crawling-Pausen kann ich ebenfalls feststellen, wenn auch nicht in der von Dir genannten Regelmäßigkeit. Könnte prinzipiell darauf hindeuten, dass G die Rechenpower in Teilen aus dem Crawling abzieht und verstärkt in andere Dinge investiert, sei es Google Wave, Kalkulationen für ein PR Update, o.ä.

zamp
PostRank 1
PostRank 1
Beiträge: 9
Registriert: 08.04.2008, 16:06

Beitrag von zamp » 13.10.2009, 16:05

@sempire: Kannst Du bitte mal etwas genauer beschreiben, wie sich das Muster der Crawling-Pausen bei Dir darstellt?

Fridaynite
PostRank 10
PostRank 10
Beiträge: 2983
Registriert: 07.01.2004, 09:10

Beitrag von Fridaynite » 14.10.2009, 09:21

Die Muster sind nur selten Domainübergreifend. Ist auch regional unterschiedlich. Meistens beginnen die Crawlingpausen gegen 0:00 Uhr Westküstenzeit, genauso, als ob sich der Bot da neu sortieren würde und dann wieder loslegt, wenn er sich eine neue Vorgehensweise zurechtgelegt hat. Längere Pausen (im Sinne von niedriger Frequenz) gab es dieses Jahr aber schon öfters mal. Meist vor grossen Indexupdates oder diesmal bevor Caffeine gelauncht wurde.

Thor
PostRank 7
PostRank 7
Beiträge: 643
Registriert: 21.05.2003, 20:14
Wohnort: Sankt Ingbert

Beitrag von Thor » 14.10.2009, 09:42

Fridaynite hat geschrieben:Meistens beginnen die Crawlingpausen gegen 0:00 Uhr Westküstenzeit, genauso, als ob sich der Bot da neu sortieren würde und dann wieder loslegt, wenn er sich eine neue Vorgehensweise zurechtgelegt hat.
Eventuell gönnt der Bot dem Server mal ne Pause, z.B. ist 0:00 eine gute Zeit die Serverdaten zu sichern :roll:

Fridaynite
PostRank 10
PostRank 10
Beiträge: 2983
Registriert: 07.01.2004, 09:10

Beitrag von Fridaynite » 14.10.2009, 10:25

Thor hat geschrieben:
Eventuell gönnt der Bot dem Server mal ne Pause, z.B. ist 0:00 eine gute Zeit die Serverdaten zu sichern :roll:
Dem Server ist gut :-)
Ich möchte gar nicht wissen, wieviele Datencenter Google weltweit stehen hat.

Thor
PostRank 7
PostRank 7
Beiträge: 643
Registriert: 21.05.2003, 20:14
Wohnort: Sankt Ingbert

Beitrag von Thor » 15.10.2009, 08:49

meinte eigentlich den eigenen Server... :lol:

axelm
PostRank 7
PostRank 7
Beiträge: 603
Registriert: 18.10.2004, 11:42

Beitrag von axelm » 13.01.2010, 01:26

Sendest du neuedings 304 oder hast was anderes in den Headern geändert und der Bot checkt, dass er keine Seiten abholen muß die sich nicht geändert haben?
Axel der Autoschieber
<br><br>snippetoptimizer.de Snippet optimieren
<br><br>Css Cruncher Ladezeiten optimieren.
<br><br>Webmaster Tools

SloMo
PostRank 10
PostRank 10
Beiträge: 4880
Registriert: 04.01.2005, 18:26

Beitrag von SloMo » 13.01.2010, 08:02

Thor hat geschrieben:meinte eigentlich den eigenen Server... :lol:
Guter Punkt! 0 Uhr ist definitiv eine beliebte Zeit für Cron-Jobs. Da Google allerdings weltweit crawlt, tippe ich auch eher drauf, dass sie selbst zu der Zeit bestimmte Aufgaben laufen lassen... Sync der DCs, Verteilung neuer Einstiegspunkte an die Crawler. Sowas in der Art.

PHPSchmied
PostRank 3
PostRank 3
Beiträge: 79
Registriert: 20.11.2008, 15:53

Beitrag von PHPSchmied » 14.01.2010, 02:46

Jeden Tag nimmt das Signal etwas ab? Sorry aber ich glaub das ist ein CountDown! Vergleich hierzu Independence Day mit Will Smith. Die Bots koordinieren sich Weltweit um gezielt die Verteidigungsnetze lahm zu legen. Vergleich hierzu Terminator 3 mit Arnie.

Es bleiben uns nicht mal 4 Stunden freiraum nach deiner Rechnung.
Zuletzt geändert von PHPSchmied am 14.01.2010, 02:52, insgesamt 2-mal geändert.

r-alf
PostRank 9
PostRank 9
Beiträge: 1819
Registriert: 09.09.2008, 21:49
Wohnort: Garage / Melmac

Beitrag von r-alf » 14.01.2010, 02:51

PHPSchmied hat geschrieben:Jeden Tag nimmt das Signal etwas ab? Sorry aber ich glaub das ist ein CountDown! Vergleich hierzu Independence Day mit Will Smith. Und anscheinend fehlen nur noch 4 stunden freiraum? *angst*
Jepp, wennGoogleerstmal alle DC ricihtig positionierthst, werde all eure Domains aus dem www gelöscht. Es sei denn ihr könnt einen Virus bei Google einspeisen, :roll:

Antworten
  • Vergleichbare Themen
    Antworten
    Zugriffe
    Letzter Beitrag