本人是python3.6
總的來(lái)說(shuō)，scrapy框架中設(shè)置cookie有三種方式。
第一種：setting文件中設(shè)置cookie
當(dāng)COOKIES_ENABLED是注釋的時(shí)候scrapy默認(rèn)沒(méi)有開(kāi)啟cookie
當(dāng)COOKIES_ENABLED沒(méi)有注釋設(shè)置為False的時(shí)候scrapy默認(rèn)使用了settings里面的cookie
當(dāng)COOKIES_ENABLED設(shè)置為True的時(shí)候scrapy就會(huì)把settings的cookie關(guān)掉，使用自定義cookie
所以當(dāng)我使用settings的cookie的時(shí)候，又把COOKIES_ENABLED設(shè)置為True，scrapy就會(huì)把settings的cookie關(guān)閉，
而且我也沒(méi)使用自定義cookie，導(dǎo)致整個(gè)請(qǐng)求根本沒(méi)有cookie,導(dǎo)致獲取頁(yè)面失敗。
總結(jié)：
如果使用自定義cookie就把COOKIES_ENABLED設(shè)置為True
如果使用settings的cookie就把COOKIES_ENABLED設(shè)置為False
第二種：middlewares中設(shè)置cookie
在middlewares中的downloadermiddleware中的process_request中配置cookie，配置如下：
|
1
2
3
4
|
等等。里面的cookie內(nèi)容要以鍵值對(duì)的形式存在。
第三種：在spider爬蟲(chóng)主文件中，重寫start_request方法，在scrapy的Request函數(shù)的參數(shù)中傳遞cookies
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
# 重載start_requests方法def start_requests(self): headers = { "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:59.0) Gecko/20100101 Firefox/59.0"} # 指定cookies cookies = { 'uuid': '66a0f5e7546b4e068497.1542881406.1.0.0', '_lxsdk_cuid': '1673ae5bfd3c8-0ab24c91d32ccc8-143d7240-144000-1673ae5bfd4c8', '__mta': '222746148.1542881402495.1542881402495.1542881402495.1', 'ci': '20', 'rvct': '20%2C92%2C282%2C281%2C1', '_lx_utm': 'utm_source%3DBaidu%26utm_medium%3Dorganic', '_lxsdk_s': '1674f401e2a-d02-c7d-438%7C%7C35'} # 再次請(qǐng)求到詳情頁(yè)，并且聲明回調(diào)函數(shù)callback，dont_filter=True 不進(jìn)行域名過(guò)濾，meta給回調(diào)函數(shù)傳遞數(shù)據(jù) yield Request(detailUrl, headers=headers, cookies=cookies, callback=self.detail_parse, meta={'myItem': item}, dont_filter=True) |
同時(shí)還要在setting中設(shè)置：
|
1
|
ROBOTSTXT_OBEY=False |
到此這篇關(guān)于scrapy中如何設(shè)置應(yīng)用cookies的方法(3種)的文章就介紹到這了,更多相關(guān)scrapy設(shè)置cookies內(nèi)容請(qǐng)搜索服務(wù)器之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持服務(wù)器之家！
原文鏈接：https://blog.csdn.net/fuck487/article/details/84617194
