Du befindest Dich im Archiv vom ABAKUS Online Marketing Forum. Hier kannst Du Dich für das Forum mit den aktuellen Beiträgen registrieren.

Format robots.txt

Alles zum Thema: Robots, Spider, Logfile-Auswertung und Reports
Neues Thema Antworten
antonia
PostRank 1
PostRank 1
Beiträge: 10
Registriert: 06.08.2009, 15:53

Beitrag von antonia » 03.11.2009, 01:00

Nach Suchmaschineneintragung hat mir einer gemeldet:
The following unexpected content was also found in the robots.txt file which does not comply with the current "Robots Exclusion Standard". If directed to a specific User-Agent (search engine robot) that accepts the following directives, then you can ignore this message. Please verify the robots.txt file before submitting to search engines:

1. " Gulliver <- a new "User-Agent" directive requires an empty line above it
2. User-agent: Snap <- a new "User-Agent" directive requires an empty line above it
3. User-agent: looksmart <- a new "User-Agent" directive requires an empty line above it
.....
Das bedeutet doch, das vor jedem "User-agent: .." eine Lerzeile stehen soll?!

Anzeige von ABAKUS

von Anzeige von ABAKUS »

Content Erstellung von ABAKUS Internet Marketing
Ihre Vorteile:
  • einzigartige Texte
  • suchmaschinenoptimierte Inhalte
  • eine sinnvolle Content-Strategie
  • Beratung und Umsetzung
Jetzt anfragen: 0511 / 300325-0

xlb
PostRank 5
PostRank 5
Beiträge: 282
Registriert: 13.08.2009, 21:11

Beitrag von xlb » 03.11.2009, 01:34

Hallo.

Für's Format des "Standard for Robot Exclusion" gilt u. a. folgendes ...
The file consists of one or more records separated by one or more blank lines (terminated by CR,CR/NL, or NL)
Wäre hier komplett nachzulesen.

Mork vom Ork
PostRank 9
PostRank 9
Beiträge: 2557
Registriert: 08.07.2008, 11:07
Wohnort: Aufm Friedhof.

Beitrag von Mork vom Ork » 03.11.2009, 09:59

antonia hat geschrieben:
1. " Gulliver <- a new "User-Agent" directive requires an empty line above it
Das bedeutet doch, das vor jedem "User-agent: .." eine Lerzeile stehen soll?!
Nein, da hat jemand die Vorgaben nicht richtig gelesen, die Gruppen sollen mit mindestens einer Leerzeile getrennt werden: &#8222;The file consists of one or more records separated by one or more blank lines&#8220; (wie oben schon zu lesen).

In einer Gruppe darfst du so viele User-agent-Zeilen haben, wie du möchtest, ohne Leerzeilen dazwischen: &#8222;The record starts with one or more User-agent lines, followed by one or more Disallow lines&#8220;.