采纳答案成功!
向帮助你的同学说点啥吧!感谢那些助人为乐的人
老师定时更新有demo看看么,思路有点不清晰。定时新的数据
一个小时爬取一次的新的数据,如果有新数据抓取新的数据,插入数据库,没有新的数据就不添加数据库。这个定时更新需要怎么去操作么,
每隔一段时间重新开启一个爬虫 就可以抓取到最新是数据了
已有数据就不去抓取了,把新的数据抓取就可以了,这样可以减少请求,IP消耗少,现在没有这个思路。如果重启一次爬虫相当爬虫又要走一遍,大大的增加IP的消耗,成本太高了,
新启动爬虫以后 该爬虫就会从列表页或者首页获取到最新的数据,或者你写一个爬虫从redis中获取数据,然后写一个脚本定时向redis中添加最新的url就行了
定时更新有demo是指什么呢?
登录后可查看更多问答,登录/注册
慕课网严选精品教程,高质量内容+服务!
1.3k 20
1.6k 17
1.2k 17
1.1k 17
1.4k 13