摘要：技術(shù)路線爬蟲框架語言由于在上一篇博客中已經(jīng)介紹了股票信息爬取的原理，在這里不再進(jìn)行過多介紹，如需了解可以參考博客鏈接描述，在本篇文章中主要講解該項(xiàng)目在框架中如何實(shí)現(xiàn)。

目標(biāo)： 獲取上交所和深交所所有股票的名稱和交易信息。
輸出： 保存到文件中。
技術(shù)路線：Scrapy爬蟲框架
語言： python3.5
由于在上一篇博客中已經(jīng)介紹了股票信息爬取的原理，在這里不再進(jìn)行過多介紹，如需了解可以參考博客：鏈接描述，在本篇文章中主要講解該項(xiàng)目在Scrapy框架中如何實(shí)現(xiàn)。

Scrapy框架如下圖所示：

我們主要進(jìn)行兩步操作：
（1） 首先需要在框架中編寫一個(gè)爬蟲程序spider,用于鏈接爬取和頁面解析；
（2） 編寫pipelines，用于處理解析后的股票數(shù)據(jù)并將這些數(shù)據(jù)存儲(chǔ)到文件中。

步驟：
（1） 建立一個(gè)工程生成Spider模板
打開cmd命令行，定位到項(xiàng)目所放的路徑，輸入：scrapy startproject BaiduStocks，此時(shí)會(huì)在目錄中新建一個(gè)名字為BaiduStocks的工程。再輸入：cd BaiduStocks進(jìn)入目錄，接著輸入：scrapy genspider stocks baidu.com生成一個(gè)爬蟲。之后我們可以在spiders/目錄下看到一個(gè)stocks.py文件，如下圖所示：

（2） 編寫Spider：配置stocks.py文件，修改返回頁面的處理，修改對(duì)新增URL爬取請(qǐng)求的處理
打開stocks.py文件，代碼如下所示：

# -*- coding: utf-8 -*-
import scrapy


class StocksSpider(scrapy.Spider):
    name = "stocks"
    allowed_domains = ["baidu.com"]
    start_urls = ["http://baidu.com/"]

    def parse(self, response):
        pass

將上述代碼修改如下：

# -*- coding: utf-8 -*-
import scrapy
import re
 
 
class StocksSpider(scrapy.Spider):
    name = "stocks"
    start_urls = ["http://quote.eastmoney.com/stocklist.html"]
 
    def parse(self, response):
        for href in response.css("a::attr(href)").extract():
            try:
                stock = re.findall(r"[s][hz]d{6}", href)[0]
                url = "https://gupiao.baidu.com/stock/" + stock + ".html"
                yield scrapy.Request(url, callback=self.parse_stock)
            except:
                continue
 
    def parse_stock(self, response):
        infoDict = {}
        stockInfo = response.css(".stock-bets")
        name = stockInfo.css(".bets-name").extract()[0]
        keyList = stockInfo.css("dt").extract()
        valueList = stockInfo.css("dd").extract()
        for i in range(len(keyList)):
            key = re.findall(r">.*", keyList[i])[0][1:-5]
            try:
                val = re.findall(r"d+.?.*", valueList[i])[0][0:-5]
            except:
                val = "--"
            infoDict[key]=val
 
        infoDict.update(
            {"股票名稱": re.findall("s.*(",name)[0].split()[0] + 
             re.findall(">.*<", name)[0][1:-1]})
        yield infoDict

（3） 配置pipelines.py文件,定義爬取項(xiàng)（Scraped Item）的處理類
打開pipelinse.py文件，如下圖所示：

# -*- coding: utf-8 -*-

# Define your item pipelines here
#
# Don"t forget to add your pipeline to the ITEM_PIPELINES setting
# See: http://doc.scrapy.org/en/latest/topics/item-pipeline.html


class BaidustocksPipeline(object):
    def process_item(self, item, spider):
        return item

對(duì)上述代碼修改如下：

# -*- coding: utf-8 -*-
 
# Define your item pipelines here
#
# Don"t forget to add your pipeline to the ITEM_PIPELINES setting
# See: http://doc.scrapy.org/en/latest/topics/item-pipeline.html
 
 
class BaidustocksPipeline(object):
    def process_item(self, item, spider):
        return item

#每個(gè)pipelines類中有三個(gè)方法
class BaidustocksInfoPipeline(object):
    #當(dāng)一個(gè)爬蟲被調(diào)用時(shí)，對(duì)應(yīng)的pipelines啟動(dòng)的方法
    def open_spider(self, spider):
        self.f = open("BaiduStockInfo.txt", "w")
    #一個(gè)爬蟲關(guān)閉或結(jié)束時(shí)的pipelines對(duì)應(yīng)的方法
    def close_spider(self, spider):
        self.f.close()
    #對(duì)每一個(gè)Item項(xiàng)進(jìn)行處理時(shí)所對(duì)應(yīng)的方法，也是pipelines中最主體的函數(shù)
    def process_item(self, item, spider):
        try:
            line = str(dict(item)) + "
"
            self.f.write(line)
        except:
            pass
        return item

（4） 修改settings.py，是框架找到我們?cè)?b>pipelinse.py中寫的類
在settings.py中加入：

# Configure item pipelines
# See http://scrapy.readthedocs.org/en/latest/topics/item-pipeline.html
ITEM_PIPELINES = {
    "BaiduStocks.pipelines.BaidustocksInfoPipeline": 300,
}

到這里，程序就完成了。

（4） 執(zhí)行程序
在命令行中輸入：scrapy crawl stocks