Seite 1 von 1

Google stoppt nach einlesen von robots.txt ?!?

Verfasst: 07.11.2004, 15:33
von shapeshifter
Hola,

hab eben festgestellt, das Google mich tatsächlich mind. alle 2 Tage besucht, aber immer nach der root-Seite "/" und dem anschliessenden einlesen meienes robots.txt files wieder abhaut.

Kurz zur robots.txt

User-agent: *
Disallow: /affiliate/
Disallow: /config/
Disallow: /imggallery/
Disallow: /intra_link/
Disallow: /loop/
Disallow: /newsletter/
Disallow: /linkincl/

Das robots.txt - files ist laut :
https://www.searchengineworld.com/cgi-b ... tcheck.cgi
und
https://www.sxw.org.uk/computing/robots/check.html
völlig in ordnung und keines der angegebenen Verzeichnisse hat direkt was mit den Links von der Homepage aus zu tun.

Woran kanns wohl liegen ? Vielleicht hat ja jemand einen Tip ;)


Noch eine Frage bzgl. config files und klassen in PHP !
Kann es sein sein dass es daran liegt, dass die Anweisungen:
Disallow: /config/
zur Folge haben , dass aus den Klassen generierte Seiten nicht indiziert werden können ? Die Seite wird doch erst Serverseitig zusammengestellt und dann Clients, wie auch dem googlebot zur Verfügunf gestellt, oder ?

Vielen Dank für Tips und Hinweise,

shapeshifter

Verfasst:
von

Hochwertiger Linkaufbau bei ABAKUS:
  • Google-konformer Linkaufbau
  • nachhaltiges Ranking
  • Linkbuilding Angebote zu fairen Preisen
  • internationale Backlinks
Wir bieten Beratung und Umsetzung.
Jetzt anfragen: 0511 / 300325-0

Verfasst: 07.11.2004, 15:40
von LinkPop
Ist ganz normal bei einer PR0-Seite, daß zunächst nur die index.* eingelesen wird und erst später die weiteren Ebenen, sofern genügend eingehende Links vorhanden sind.

Hat mit Disallow: /config/ nichts zu tun, wie Du schon richtig erkannt hast.

Im übrigen sollte es umgekehrt sein: Erst sollte die robots.txt und danach der Index / eingelesen werden.

Verfasst: 07.11.2004, 15:42
von shapeshifter
Ok - aber wieso kommt der googlebot alle 2 Tage vorbei ?

Hab keinen META diesbezüglich angegeben.......


gruss,

shapeshifter

Verfasst:
von

Verfasst: 07.11.2004, 15:48
von LinkPop
Kann man mit META-Angaben sowieso nicht beeinflussen. Die Crawl-Frequenz ist selbst bei 0er Domains sehr unterschiedlich. Ich hab 4er die werden gerade mal alle 5..7 Tage gelesen. Also hört sich doch "alle 2 Tage" bei gar nicht so schlecht an.

Die Crawl-Tiefe jedoch hängt immernoch zum großen Teil vom PR ab und die Frequenz sagt darüber nichts aus.

Verfasst: 07.11.2004, 17:27
von shapeshifter
Also lieber einzelne relevanten Seiten nochmals bei Google anmelden ?

gruss,

shapeshifter

Verfasst: 07.11.2004, 18:59
von bull
Also lieber einzelne relevanten Seiten nochmals bei Google anmelden ?
Bringt nichts. Dieselbe Zeit stattdessen darin investieren, eingehende Links von anderen seiten zu bekommen.