die Spider folgen den Links; wenn kein Link zu der Seite www.first.de/second/index.html führt, kann diese Adresse nicht gespidert werden, weil sie keine Kenntnis von ihr haben; sollte also ausreichen, dass du selbst keinen Link dorthin setzt sondern nur zu www.second.de
Du kannst unter first DISALLOW: /second/ einsetzen. Das Verz. /second/ wird ja nur unter www.first.de gefunden. www.second.de startet in diesem Ordner und wird demzufolge auch gespidert, da die robots.txt hier ja nicht liegt.
Täglicher Ranking-Check Deiner Top-Keywords mit Traffic-Index für Mobile und Desktop, Serp-View, Reporting, Ranking-Charts, Konkurrenzanalyse, Ranking-Verteilung, Keyword-Suggest und mehr für nur 11,90 € / Monat. Jetzt alle rankseek-Tools 30 Tage kostenlos testen » [url=httpss://www.rankseek.com/features.php]Features[/url]