python爬虫(1) 之下载图片

xiaoxiao2021-02-28  69

python爬虫(1) 之下载图片

 

1.爬取对象:http://www.jikexueyuan.com/course/pythonbase/

 

2.爬取目的:将目标网站中该页面所有图片下载下来

 

3.爬取步骤:1)先将需要爬取的网页打开,然后把源代码存下来,存为yuanma.txt文件

       2)编写代码,打开yuanma.txt文件

       3)利用正则表达式匹配,找出含有课程的图片,并把url保存下来

       4)遍历所有图片的url,对每个提交get请求,并将图片内容写入pic文件夹中的文件中,再进行保存

 

4.源代码:

# -*- coding:utf-8 -*- import re import requests #打开文本 file = open('yuanma.txt','r') html = file.read() file.close() #进行匹配 lessons = re.findall('div class="lessonimg-box">(.*?)</div>',html,re.S) lessons = str(lessons) pic_url = re.findall('img src="(.*?)" class="lessonimg"',lessons,re.S) i = 0 for each in pic_url: i = i+1 print("正在下载第"+str(i)+"张图片:"+each) pic = requests.get(each) fp = open('pic\\'+str(i)+'.jpg','wb') fp.write(pic.content) fp.close()

 

5.需要注意知识的:

  1)学会正则表达式的使用,(.*?)表示非贪心算法,而(.*)表示贪心算法

  2python脚本的第一行需要用注释表示出编码类型

  3)必须在文件目录下新建pic文件夹

  4)本次代码使用了两次正则表达式,利用先抓大再抓小的方法,就是先爬取到每个课程的代码,在从代码中爬取图片的url

 

6.运行结果:

转载请注明原文地址: https://www.6miu.com/read-600040.html

最新回复(0)