Also der htaccess-login sperrt ja auch die Robots aus. Wie läuft das eigentlich bei anderen Login-systemen... bsw. mit php? Kann man das steuern, was für Möglichkeiten gibt es? Möchte für eine Seite (zur Zeit eine freie Zugangsebe und eine kostenpflichtige mit htaccess-login) einen Zwischenlevel... also einen kostenfreien Mitgliederbereich einrichten, der Inhalt soll aber gespidert werden.
Da gibt es verschiedene Möglichkeiten. Du könntest z.B. am User-Agent erkennen, ob es sich um einen der wichtigen Bots handelt ("googlebot", "msnbot", "slurp"). Wenn nicht, leitest Du den Besucher einfach per 302 zu Deiner Registrierungsseite weiter. Das ist im Prinzip ein Dreizeiler.