Tool/Script für robots.txt Überprüfung
Verfasst: 02.03.2008, 20:00
vorneweg:
Ich suche keinen Validator für die robots.txt
Ich suche ein Tool/Script, was bei Eingabe einer bestimmten URL überprüft, ob die URL per robots.txt gesperrt ist.
gibt es sowas? wenn ja. würde ich mich über Links freuen...
danke
Ich suche keinen Validator für die robots.txt
Ich suche ein Tool/Script, was bei Eingabe einer bestimmten URL überprüft, ob die URL per robots.txt gesperrt ist.
gibt es sowas? wenn ja. würde ich mich über Links freuen...
danke

