Herzlich willkommen im Archiv vom ABAKUS Online Marketing Forum
Du befindest Dich im Archiv vom ABAKUS Online Marketing Forum. Hier kannst Du Dich für das Forum mit den aktuellen Beiträgen registrieren.
Code: Alles auswählen
RewriteCond %{HTTP_USER_AGENT} ^.*\(twiceler-0\.9.*$ [NC,OR]
Nein tut er definitiv nicht. Habe ich auf mehreren Servern am eigenen Leib erfahren.luzie hat geschrieben:versuche es mal mit robots.txt ?
angeblich will er sich daran halten ...![]()
https://www.newdy.org/
Dear Steffen,
Yankee-Deutsch-Sprake: Die Spinne ist getötet worden.
Twiceler is an experimental crawler that we are developing for a new search engine.
It is important to us that it obey robots.txt, and that it not crawl sites that do not wish to be crawled. I will add www.*******.de to our list of sites to exclude and I apologize for any inconvenience this has caused you.
Sincerely,
James Akers
Operations Engineer
Cuill, Inc.