1、首頁要收集這些鍊接
我們(men)需要一些輔助工(gōng)具來幫我們(m你我en)完成這項工(gōng)作,不(bù)然網站那麼多頁面,一飛紅點點的點開(kāi)查詢,是一件很痛苦的事情。我們(men)可船商以通(tōng)過網站死鍊檢測工(gōng)具(網頁版在線檢測工日子(gōng)具或軟件版)檢測後記錄下來。
2、然後提交鍊接地址
我們(men)将記錄下來的鍊接,保存在一個t司不xt文件中。然後再使用百度搜索資(zī)源平台,提交404樂窗鍊接頁面,提交這個文件,這樣操作就是為(wèi)了讓搜索引擎知道這些媽答URL地址不(bù)要再次抓取了。
3、設置404頁面
網站是有必要設置404頁面的,就比如(rú是業)遇到删除頁面、以及改版之類的情況,404頁面就會(huì子內)産生作用,将錯(cuò)誤頁面導向至網站現關上其他(tā)可以打開(kāi)的頁面。不(bù)設置的話,蜘蛛這微會(huì)抓到丢失的頁面不(bù)返回了得快。
4、robots協議文件
優化師都知道robots文件的重要性低議,所以我們(men)可以将一些網站死鍊URL地址空謝寫在robots文件中,這樣就是設置了禁止抓取,即屏男國蔽蜘蛛訪問這些URL地址。