Http404或notfound錯誤消息是HTTP的“標準響應信息”（HTTP狀態(tài)碼）之一，這意味著客戶端瀏覽網(wǎng)頁時服務器無法正常提供信息，或者服務器無故無法響應。

1、很多站點不能避免死鏈接的存在，但是死鏈機率高會影響搜索引擎對站點的評級。

2、搜索引擎每天抓取每個網(wǎng)站的頻率。如果網(wǎng)站有很多死鏈接，就會浪費抓取配額，影響正常頁面的抓取。

3、過多的死鏈對網(wǎng)站用戶來說也是一個糟糕的表現(xiàn)。

百度站長工具有一個抓取異常，那么這個工具是如何產(chǎn)生異常數(shù)據(jù)的呢？

編輯錯誤或程序員粗心地使頁面產(chǎn)生不存在的頁面。

由于服務器、空間或程序問題，網(wǎng)站暫時無法訪問，導致大量服務器錯誤頁面，返回代碼為500。

當單個爬蟲程序提取頁面URL時，它們只提取URL的一部分或正常URL之后的文本或字符。

在網(wǎng)站修改過程中，未經(jīng)301跳轉到相應頁面直接刪除舊頁面，或301跳轉后部分舊頁面無法訪問。

網(wǎng)站管理員刪除被黑、廣告、過期、被水淹過的頁面導致很多死鏈接。

網(wǎng)頁異常中的許多錯誤頁都是由程序員的疏忽或我們的程序問題引起的。它們應該是普通的頁面，因為由于錯誤而無法訪問。對于這樣的頁面，請盡快修復。

404錯誤頁面對網(wǎng)站優(yōu)化的阻礙與改善措施

但是必須有許多錯誤的頁面不應該存在，所以我們需要找到一種方法來獲取這些頁面的URL，主要有以下三種方式：

（1） 百度站長工具-抓取異常-頁面未找到-復制數(shù)據(jù)[修復：這里不需要提交死鏈，百度站長工具自動提交死鏈]；

（2） 刪除頁面時，管理員手動或自動保存被刪除頁面的URL；

（3） 使用相關的爬蟲軟件對整個站點進行爬蟲，獲得死鏈，如Xenu。

然后將上面處理的數(shù)據(jù)粘貼到網(wǎng)站根目錄下的文檔中，并將文檔地址提交到百度站長工具-網(wǎng)頁抓取-死鏈提交-添加新數(shù)據(jù)-填寫死鏈文件地址。

如果大量錯誤的url具有某些規(guī)則，則可以在robots文件中編寫規(guī)則，以防止爬行器獲取此類鏈接，但前提是要妥善處理正常頁面，避免阻止規(guī)則損壞正常頁面。

將規(guī)則添加到robots文件后，必須到百度站長的robots工具進行驗證，將指定的錯誤頁面放入，查看攔截是否成功，然后將正常頁面放入，查看是否被錯誤攔截。

相關注意事項：

1、在百度站長工具中提交死鏈接之前，請確保提交的死鏈接數(shù)據(jù)中沒有活鏈接。一旦有一個活動鏈，它將顯示提交失敗，無法刪除。

2、由于很多網(wǎng)站程序問題，很多無法打開的頁面返回碼都不是404，這是一個很大的問題。例如，無法打開的頁的返回碼是301、200、500。如果他們是200，不同的網(wǎng)址將出現(xiàn)在網(wǎng)站上，以獲得相同的內(nèi)容。例如，在我的一個網(wǎng)站上，社區(qū)帖子被刪除后，返回代碼實際上是500。后來，我發(fā)現(xiàn)了，立即處理。嘗試找出所有錯誤的URL格式，并將HTTP狀態(tài)代碼設置為404。

3、在找到所有錯誤的頁面后，一定要找到這些頁面的URL的相同特性，并將它們與普通頁面的特性區(qū)分開來。將相應的規(guī)則寫入robots文件，并禁止spider獲取它們。即使你已經(jīng)在網(wǎng)站管理員工具中提交了死鏈，建議機器人攔截并抓取它們。

4、機器人只能解決蜘蛛不再抓取此類頁面的問題，但不能解決刪除包含頁面的快照的問題。如果你的網(wǎng)站是黑色的，并且黑色頁面被刪除，除了被機器人禁止的黑色頁面外，這些頁面也應該提交到死鏈。