heutzutage gibt Dir eigentlich nur die IP-Adresse der Suchmaschine etwas Sicherheit, jedoch auch keine 100%-Garantie.
Die Grabber tricksen doch auch - immer wieder kommen z.B. Googlebot-Fakes daher. Wenn Du dann z.B. auf den Text des Googlebots prüfts (... compatible; Googlebot/2.1; +https://www.google.com/bot.html...) und den Grabber dann die Tür aufmachst, hast Du ein kleines Problem
Unter www.iplists.com findest Du übrigens die IP-Bereiche der Suchmaschinen.