采纳答案成功!
向帮助你的同学说点啥吧!感谢那些助人为乐的人
设置时间间隔、cookie更新(cookie里有两个随时间变化的键值),useragent、代理IP等方法都还会遇到302问题,有点崩溃了,不知道拉钩的反爬策略是什么。 无语抓到的页面就没超过20个,老师你怎么看?
拉钩反爬通过ip限制 非常变态,可以使用阿布云的ip代理来解决,已经在scrapy中一定要设置禁用cookie
登录后可查看更多问答,登录/注册
带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎
4.9k 30
2.6k 18
1.3k 18
1.5k 15
3.0k 15
购课补贴联系客服咨询优惠详情
慕课网APP您的移动学习伙伴
扫描二维码关注慕课网微信公众号