Als je merkt dat je website niet vindbaar is in Google dan zou je met de volgende stappen eerst kunnen kijken welke pagina’s er door Google geïndexeerd zijn. Dit kun je doen op de volgende wijze:
Zo krijg je als zoekresultaat alle urls die Google van je website geïndexeerd heeft. Als je wil weten wanneer Google een specifieke pagina geïndexeerd heeft dan kun je dit doen als volgt cache:mydomain/specifiekeURL.nl
In de Google Search Console kun je bij ‘indexing’ de pagina’s bekijken die niet in de index staan. De reden van het niet geïndexeerd hebben van de pagina’s kunnen divers zijn. Denk aan technische fouten op de pagina zelf (no-index), een robots.txt bestandje die niet goed opgezet is en pagina’s uit de index houdt of pagina’s die te langzaam laden. Maar het kan ook te maken hebben met het crawl budget.
Crawl budget is het aantal pagina’s dat de crawlers van een zoekmachine zullen bezoeken en scannen van een website in een bepaalde periode. Het is een maatstaf voor hoe vaak en grondig een zoekmachine een website zal crawlen en indexeren. Het crawlbudget wordt bepaald door verschillende factoren, zoals de populariteit van de website, het aantal interne en externe links die naar de website verwijzen, de grootte van de website en de updatefrequentie van de website. Het doel is het crawlbudget te optimaliseren door ervoor te zorgen dat de belangrijkste pagina’s eerst worden gecrawld en geïndexeerd, en door het aantal dubbele pagina’s of pagina’s van lage kwaliteit die worden gecrawld te verminderen.
Lees ook de post over hoe lang het duurt voordat Google een pagina indexeert.
Klik hier voor een gratis SEO Audit van je website.