200字范文,内容丰富有趣,生活中的好帮手!
200字范文 > 使用pyqery爬取知乎发现热门话题

使用pyqery爬取知乎发现热门话题

时间:2024-06-04 05:41:54

相关推荐

使用pyqery爬取知乎发现热门话题

使用的库是pyquery,首先我们还是来分析一下知乎发现热门话题的网页结构,/explore

热门话题从classexplore-tab开始,每一个话题开始的classexplore-feed feed-item,话题在h2标签内

作者的classauthor-link-line

回答的内容classcontent

分析完让我们来编写代码

import requestsfrom pyquery import PyQuery as pqurl = '/explore'headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'}html = requests.get(url,headers=headers).textdoc = pq(html)items = doc('.explore-tab .feed-item').items()for item in items:question = item.find('h2').text()author = item.find('.author-link-line').text()answer = pq(item.find('.content').html()).text()print('\n问题',question)print('\n作者',author)print('\n答案',answer)with open('explore.txt','a',encoding='utf-8') as file:file.write('\n'.join([question,author,answer]))file.write('\n'+'='*50+'\n')

首先发送请求,将返回的网页进行解析,并将提取处理的问题,作者,回答等内容保存到本地文件中,效果如下

本地保存文件explore.txt

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。