前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
Python爬虫、数据分析、网站开发等案例教程视频免费在线观看
/523606542
前文内容
Python爬虫新手入门教学（一）：爬取豆瓣电影排行信息
Python爬虫新手入门教学（二）：爬取小说
Python爬虫新手入门教学（三）：爬取链家二手房数据
Python爬虫新手入门教学（四）：爬取前程无忧招聘信息
Python爬虫新手入门教学（五）：爬取B站视频弹幕
Python爬虫新手入门教学（六）：制作词云图
Python爬虫新手入门教学（七）：爬取腾讯视频弹幕
Python爬虫新手入门教学（八）：爬取论坛文章保存成PDF
基本开发环境
Python 3.6Pycharmwkhtmltopdf相关模块的使用
rerequestsconcurrent.futures安装Python并添加到环境变量，pip安装需要的相关模块即可。
一、明确需求
现在聊天谁还不发几个表情包？聊天时,表情包是我们重要的工具,更是拉进小伙伴们距离的好帮手,当聊天陷入尴尬境地时,随手一张表情包,让尴尬化为无形
本篇文章就用python批量爬取表情包图片，留以备用
二、网页数据分析
如图所示斗图网上面的图片数据都包含在 a 标签当中，可以尝试直接请求这个网页，查看response 返回的数据当中是否也含有 图片地址。
import requestsdef get_response(html_url):headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}response = requests.get(url=html_url, headers=headers)return responsedef main(html_url):response = get_response(html_url)print(response.text)if __name__ == '__main__':url = '/photo/list/'main(url)
在输出结果中ctrl + F进行搜索。
这里有一个点想要注意一下，我用python请求网页所给我们返回的结果当中，包含图片url地址是：
data-original="图片url"
data-backup="图片url"
如果想要提取url地址的话，可以用parsel 解析库，或者 re 正则表达式。之前都是使用的parsel，本篇文章就用 正则表达式吧。
urls = re.findall('data-original="(.*?)"', response.text)
单页爬取完整代码
import requestsimport redef get_response(html_url):headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}response = requests.get(url=html_url, headers=headers)return responsedef save(image_url, image_name):image_content = get_response(image_url).contentfilename = 'images\\' + image_namewith open(filename, mode='wb') as f:f.write(image_content)print(image_name)def main(html_url):response = get_response(html_url)urls = re.findall('data-original="(.*?)"', response.text)for link in urls:image_name = link.split('/')[-1]save(link, image_name)if __name__ == '__main__':url = '/photo/list/'main(url)
多线程爬取全站图片（如果你的内存够大）
3631页的数据，什么表情都有，嘿嘿嘿
import requestsimport reimport concurrent.futuresdef get_response(html_url):headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}response = requests.get(url=html_url, headers=headers)return responsedef save(image_url, image_name):image_content = get_response(image_url).contentfilename = 'images\\' + image_namewith open(filename, mode='wb') as f:f.write(image_content)print(image_name)def main(html_url):response = get_response(html_url)urls = re.findall('data-original="(.*?)"', response.text)for link in urls:image_name = link.split('/')[-1]save(link, image_name)if __name__ == '__main__':# ThreadPoolExecutor 线程池的对象# max_workers 最大任务数executor = concurrent.futures.ThreadPoolExecutor(max_workers=3)for page in range(1, 3632):url = f'/photo/list/?page={page}'# submit 往线程池里面添加任务executor.submit(main, url)executor.shutdown()
