- 相關(guān)推薦
網(wǎng)站改版后如何解決404頁面抓取錯誤的問題
網(wǎng)站改版都是希望網(wǎng)站可以很好的進行優(yōu)化，但是對于網(wǎng)站改版的不同階段，搜索引擎會對網(wǎng)站進行不同的要求。一般網(wǎng)站改版后，對網(wǎng)站的優(yōu)化都會造成一些影響，這個時候，就進行有效地控制，減少改版造成的404頁面過多情況。如果搜索引擎對網(wǎng)站的404錯誤頁面抓取過多，就會導(dǎo)致網(wǎng)站有可能被降權(quán)，這對以后網(wǎng)站權(quán)重的恢復(fù)也會造成很大的影響。下面具體的跟大家分析下404頁面的解決情況。
1、利用日志分析工具找到404錯誤抓取頁面
想要知道搜索引擎有沒有到網(wǎng)站抓取，到網(wǎng)站抓取多少頁面，抓取了哪些頁面。這時就需要對網(wǎng)站的日志進行分析。對于網(wǎng)站日志的看法比較困難，就可以使用光年日志進行轉(zhuǎn)化。首先利用FTP下載好最近幾天的網(wǎng)站LOG日志，當(dāng)然，想更多的分析，那么多下載一段時間的LOG日志也可以，利用日志分析工具新建任務(wù)分析各個階段的百度蜘蛛抓取情況。
2、利用百度站長死鏈提交工具進行死鏈提交
對于404頁面同，百度搜索引擎是如何進行理解的呢?事實上，對于404頁面。百度搜索引擎認(rèn)為404狀態(tài)碼代表‘Not Found'，spider更新時會認(rèn)為該頁面已失效，此時呢將在索引庫中刪除，短期內(nèi)spider再次發(fā)現(xiàn)該url不再會抓取。但是如果通過網(wǎng)站日志就可以發(fā)現(xiàn)，對于404頁面，百度蜘蛛還是會進行抓取的，這也是為什么網(wǎng)站改版以后，百度蜘蛛還是會對404錯誤頁面進行一些抓取。
3、利用robots.txt和nofollow標(biāo)簽引導(dǎo)蜘蛛抓取
網(wǎng)站存在錯誤頁面時，百度蜘蛛就會抓取 到一部分的錯誤頁面。浪費了蜘蛛抓取資源，而對于網(wǎng)站的正確頁面抓取就會減少一部份。這就造成頁面的資源丟失。這時站長就需要對百度蜘蛛進行一些引導(dǎo)，讓蜘蛛抓取想讓他抓的一些頁面，對于一些404頁面進行robots限制抓取，對于網(wǎng)站中一些不參與排名的鏈接實行nofollow，引導(dǎo)蜘蛛抓取重要頁面。
【網(wǎng)站改版后如何解決404頁面抓取錯誤的問題】相關(guān)文章：
404頁面的相關(guān)問題介紹10-01
蜘蛛抓取網(wǎng)站如何提高網(wǎng)站權(quán)重09-26
網(wǎng)站改版后如何進行301設(shè)置?09-17
如何解決頭皮問題08-22