照着敲了一遍,,,
需要使用"LinkExtrator"和"Rule",这两个东西决定爬虫的走向。
1.allow设置规则的方法:要能够限制在我们想要的url上,不要跟其他的url产生相同的正则表达式即可
2.什么情况下使用follow:如果要爬取页面的时候,需要将满足当前条件的url再进行跟进,那么就设置为True,否则设置为False。
3.什么情况下该指定callback:如果这个url对应的页面,只是为了获取更多的url,并不需要里面的数据,那么可以不指定callback。如果想要获取url对应页面中的数据,需要指定一个callback
创建项目:
1 scrapy startproject wxapp2 cd wxapp3 scrapy genspider -t crawlspider#指定crawl模板创建爬虫
项目代码