Seite 1 von 1

robots.txt validator spinnt

Verfasst: 27.07.2005, 10:48
von austrian-i
also kann mir jemand sagen, was denn bitte an meiner robots.txt falsch ist:

Code: Alles auswählen

User-agent: * 
Disallow: /admin/ 
Disallow: /db/ 
Disallow: /includes/ 
Disallow: /language/ 
Disallow: /templates/ 
Disallow: /config.php 
Disallow: /profile.php 
Disallow: /groupcp.php 
Disallow: /memberlist.php  
Disallow: /modcp.php 
Disallow: /posting.php 
Disallow: /privmsg.php 
Disallow: /faq.php
Disallow: /login.php
Disallow: /chat.php
Disallow: /staff.php

User-agent: Slurp
Crawl-delay: 120 
habs af https://www.searchengineworld.com/cgi-b ... tcheck.cgi validaten wollen, der bauer sagt mir nur:
Invalid fieldname:
Crawl-delay: 120

Verfasst:
von

robots.txt validator spinnt

Verfasst: 27.07.2005, 11:00
von robo
Crwal-delay ist nicht Bestandteil des Standards!

cu, Robo :)

Verfasst: 27.07.2005, 11:45
von austrian-i
aber funktionieren tuts oder???

robots.txt validator spinnt

Verfasst: 28.07.2005, 10:58
von robo
Da musst du schon bei Slurp nachsehen, ob der das unterstützt.

cu, Robo :)