網(wǎng)絡爬蟲

網(wǎng)絡爬蟲又名“網(wǎng)絡蜘蛛”，是通過網(wǎng)頁的鏈接地址來尋找網(wǎng)頁，從網(wǎng)站某一個頁面開始，讀取網(wǎng)頁的內容，找到在網(wǎng)頁中的其它鏈接地址，然后通過這些鏈接地址尋找下一個網(wǎng)頁，這樣一直循環(huán)下去，直到按照某種策略把互聯(lián)網(wǎng)上所有的網(wǎng)頁都抓取完為止的技術。

網(wǎng)絡爬蟲分幾類

1、通用Web爬蟲

通用網(wǎng)絡爬蟲所爬取的目標數(shù)據(jù)是巨大的，并且爬行的范圍也是非常大的，正是由于其爬取的數(shù)據(jù)是海量數(shù)據(jù)，故而對于這類爬蟲來說，其爬取的性能要求是非常高的。這種網(wǎng)絡爬蟲主要應用于大型搜索引擎中，有非常高的應用價值?；蛘邞糜诖笮蛿?shù)據(jù)提供商。

2、聚焦網(wǎng)絡爬蟲

聚焦網(wǎng)絡爬蟲是按照預先定義好的主題有選擇地進行網(wǎng)頁爬取的一種爬蟲，聚焦網(wǎng)絡爬蟲不像通用網(wǎng)絡爬蟲一樣將目標資源定位在全互聯(lián)網(wǎng)中，而是將爬取的目標網(wǎng)頁定位在與主題相關的頁面中，此時，可以大大節(jié)省爬蟲爬取時所需的帶寬資源和服務器資源。聚焦網(wǎng)絡爬蟲主要應用在對特定信息的爬取中，主要為某一類特定的人群提供服務。

3、增量Web爬蟲

增量式網(wǎng)絡爬蟲，在爬取網(wǎng)頁的時候，只爬取內容發(fā)生變化的網(wǎng)頁或者新產生的網(wǎng)頁，對于未發(fā)生內容變化的網(wǎng)頁，則不會爬取。增量式網(wǎng)絡爬蟲在一定程度上能夠保證所爬取的頁面，盡可能是新頁面。

4、深層網(wǎng)絡爬蟲

在互聯(lián)網(wǎng)中，網(wǎng)頁按存在方式分類，可以分為表層頁面和深層頁面。所謂的表層頁面，指的是不需要提交表單，使用靜態(tài)的鏈接就能夠到達的靜態(tài)頁面；而深層頁面則隱藏在表單后面，不能通過靜態(tài)鏈接直接獲取，是需要提交一定的關鍵詞之后才能夠獲取得到的頁面。在互聯(lián)網(wǎng)中，深層頁面的數(shù)量往往比表層頁面的數(shù)量要多很多，故而，我們需要想辦法爬取深層頁面。