habe mal eine kleines Skript zum Testen der robots.txt geschrieben.
https://www.m-software.de/item.php?i=21
Fragen und Anregungen bitte hier im Forum posten.
Sourcen gibt es auf Anfrage (PM) auch.
Hier schon mal die Eckdaten.
Programmierung: Java / JSP
Qualität: Quick & Dirty

Applikationsserver: Tomcat oder Resin (evtl. auch andere)
Basis: Nutch
Gruß
Michael