反复试了多次,使用browser.get_cookies()取到的cookie只有17对键值对,爬取拉勾页面的时候获取不到数据,只能显示“加载中”。
自动获取的cookie如下,只有17行。
而我在手动登录拉勾网之后,按【F12】-【Network】手动复制粘贴整理出来的cookie有27对键值对,把cookie复制到函数start_requests( )里面之后,可以正常抓取页面。
手动复制粘贴的cookie有27行(这里显示不全):
有没有好的自动获取cookie的方案呢?还是我获取cookie的方法不对?
带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎
了解课程