Ich verwende den gsitecrawler und kann mich nicht beschweren. Ob er 40.000
schafft liegt aber auch an der internen Verlinkung.
https://gsitecrawler.com/de/download/
Bei solchen Indexierungsproblemen solltest Du dir Deine interne Verlinkung nochmal
ansehen und auch zumindest an wichtigen Knotenpunkten Deeplinks von extern setzen.
Interessant sollten auch verschiedene Sitemaps sein(zum Beispiel für einzelne Bereiche
der Seite) an wichtigen Knotenpunkten, die Du dann von aussen anlinkst.
Dann verliert auch die Sitemap bei g00gle ihre Wichtigkeit.