摘要：前言很多程序猿在最開始學(xué)習(xí)開發(fā)的時(shí)候應(yīng)該都有一個(gè)想要自己開發(fā)一個(gè)爬蟲的想法至少我是有的。其實(shí)弄懂了爬蟲的原理，再回過頭去看，發(fā)現(xiàn)開發(fā)一個(gè)簡(jiǎn)單的爬蟲來說還是很容易的。

很多程序猿在最開始學(xué)習(xí)開發(fā)的時(shí)候應(yīng)該都有一個(gè)想要自己開發(fā)一個(gè)爬蟲的想法（至少我是有的）。所以國(guó)內(nèi)網(wǎng)絡(luò)上也是爬蟲盛行！學(xué)了node.js之后發(fā)現(xiàn)比較適合寫爬蟲，不過一直沒有動(dòng)手去寫，正好這段時(shí)間比較閑，就寫個(gè)爬蟲玩下。

想著爬個(gè)什么東西呢？正好都比較喜歡看電影，那就從時(shí)光網(wǎng)爬下國(guó)內(nèi)的票房排行榜吧。

不bb，代碼在此

git clone https://github.com/XNAL/node-MovieSpider

cd node-MovieSpider 

npm init

node index.js

開發(fā)語言：node.js

發(fā)出http請(qǐng)求：superagent

并發(fā)控制：async

分析網(wǎng)頁內(nèi)容：cheerio

作為一個(gè)簡(jiǎn)單的示例，此次就不開啟node服務(wù)了，我這里就直接來個(gè)自執(zhí)行的方法。如果有需要，可以根據(jù)自己的需求擴(kuò)展。

// 啟動(dòng)時(shí)直接執(zhí)行代碼 
(function spider() {
    util.fetch_data_get(reqUrl, reqParams)
        .then((result) => {
            // 根據(jù)頁面結(jié)構(gòu)獲取總的頁數(shù)，然后再分頁獲取數(shù)據(jù)
            let $ = cheerio.load(result.body.html);
            let pageTotal = $(".bocontent .pagesize a:last-child").data("page") || 0;
            console.log("電影數(shù)據(jù)總頁數(shù)：", pageTotal);
            return pageTotal;
        })
        .then((pageTotal) => {
            // 分頁獲取數(shù)據(jù)
            getMovieData(0, pageTotal);
        })
        .catch((err) => {
            console.log("獲取鏈接失?。?, err);
        })
})();

因?yàn)榇a中需要多次發(fā)送http請(qǐng)求，所以把http請(qǐng)求寫成一個(gè)公共方法會(huì)比較好。使用上面提到superagent庫來實(shí)現(xiàn)。

// 公共方法：通過get請(qǐng)求獲取數(shù)據(jù)
function fetch_data_get(url, queryParams) {
    return new Promise((reslove, reject) => {
        superagent
            .get(url)
            .set(setting.header)
            .query(queryParams)
            .end((err, result) => {
                err ? reject(err) : reslove(result);
            })
    })
}

根據(jù)人工操作得來的apihttp://movie.mtime.com/boxoffice/?year=2017&area=china&type=MovieRankingYear&category=all&page=0&display=list×tamp=1505818638620&version=07bb781100018dd58eafc3b35d42686804c6df8d&dataType=json可以得到以下參數(shù)：

// 根據(jù)網(wǎng)站api得到相應(yīng)的url和參數(shù)
const reqUrl = "http://movie.mtime.com/boxoffice/";
const reqParams = {
    "year": 2017,
    "area": "china",
    "type": "MovieRankingYear",
    "category": "all",
    "page": 0,
    "display": "list",
    "timestamp": 1501576013654,
    "version": "07bb781100018dd58eafc3b35d42686804c6df8d",
    "dataType": "json"
};

因?yàn)榇舜我@取的是2017年內(nèi)地票房排行榜。根據(jù)分析可知：需要變動(dòng)的主要是page參數(shù)，那這里就需要根據(jù)頁面返回的內(nèi)容來取得總的page。

api返回的頁面內(nèi)容可查看：將api獲取的數(shù)據(jù)格式化后的頁面代碼。

這里需要用到cheerio來取頁碼總數(shù)的代碼，cheerio可以理解為服務(wù)器端的jQuery，用法也類似：

// 根據(jù)頁面結(jié)構(gòu)獲取總的頁數(shù)，然后再分頁獲取數(shù)據(jù)
let $ = cheerio.load(result.body.html);
let pageTotal = $(".bocontent .pagesize a:last-child").data("page") || 0;

<1> 調(diào)用上面所說的公共方法fetch_data_get獲取數(shù)據(jù)，然后取頁面內(nèi)容，圖片地址都先保存在movieImgs中，最后再統(tǒng)一下載圖片：

// 根據(jù)頁面結(jié)構(gòu)獲取所需數(shù)據(jù)
let $ = cheerio.load(result.body.html);
$(".bocontent .boxofficelist dd").each((idx, elem) => {
    $(elem).find("div.movietopmod").each((i, el) => {
        let _this = $(el);
        let arrLeadActor = [];
        _this.find(".txtbox b p").eq(1).find("a").each((idx, ela) => {
            arrLeadActor.push($(ela).text());
        })
        movieData.push({
            rank: _this.find(".picbox i").text(),
            img: _this.find(".picbox img").attr("src").replace(//u//, ""),
            name: _this.find(".txtbox h3").text(),
            director: _this.find(".txtbox b p").eq(0).find("a").text(),
            leadActor: arrLeadActor.join(","),
            point: _this.find(".gradebox .point").text(),
            total: _this.find(".totalbox .totalnum").text()
        }),
        movieImgs.push(_this.find(".picbox img").attr("src").replace(//u//, ""));
    })
})

<2> 根據(jù)頁碼循環(huán)取數(shù)據(jù)

if(pageIndex <= pageTotal) {
    // 設(shè)置timeout防止網(wǎng)站反爬蟲
    setTimeout(() => {
        pageIndex ++;
        getMovieData(pageIndex, pageTotal);
    }, setting.timeout);
} 

<3> 全部數(shù)據(jù)取出后存儲(chǔ)數(shù)據(jù)，并下載圖片。

因?yàn)橹皇且粋€(gè)簡(jiǎn)單的示例，所以此次數(shù)據(jù)只是保存到json文件中。如果需要對(duì)數(shù)據(jù)進(jìn)行后續(xù)操作的話，那就最好保存到數(shù)據(jù)庫中：

fs.writeFile(dataDir + reqParams.year + ".json", JSON.stringify(movieData), (err) => {
    if (err) {
        console.log(err);
    } else {
        console.log("數(shù)據(jù)寫入成功");
    }
});

調(diào)用下載圖片的方法：

let folderName = imgPrefix + reqParams.year;
util.downloadImg(movieImgs, folderName);

util.js中的downloadImg方法：這里就需要用到上面所說的async，使用async是為了進(jìn)行并發(fā)控制，不然極短時(shí)間發(fā)送至少幾十幾百次的請(qǐng)求，這種情況弄不好就被網(wǎng)站的發(fā)爬蟲程序給封了，而且大量并發(fā)也會(huì)導(dǎo)致出錯(cuò)的概率更高。

// 異步下載圖片
function downloadImg(urls, folderName) {
    async.mapLimit(urls, setting.asyncNum, (img, callback) => {
        fetch_data_get(img, {})
            .then((result) => {
                let fileName = path.basename(img);
                let folder = imgDir + folderName;
                if(!fs.existsSync(folder)) {
                    fs.mkdirSync(folder);
                }
                fs.writeFile(folder + "/" + fileName, result.body, (err) => {
                    if (err) {
                        console.log(img, "圖片寫入失敗：", err);
                    } else {
                        console.log(img, "圖片寫入成功");
                        callback(null , fileName);
                    }
                })
            })
            .catch((err) => console.log(err))
    }, (err, result) => {
        if (err) {
            console.log("圖片下載失?。?, err)
        } else {
            console.log(result);
        }
    })
}

到此為止一個(gè)簡(jiǎn)單的node.js版的小爬蟲就開發(fā)完成了。其實(shí)弄懂了爬蟲的原理，再回過頭去看，發(fā)現(xiàn)開發(fā)一個(gè)簡(jiǎn)單的爬蟲來說還是很容易的。

最后，歡迎大家去我的github進(jìn)行star和fork。