Python自动下载网站图片的三种实现方案：从单线程到多线程优化

凌晨两点半

发布时间：2026-10-13| 4人浏览过

原创

本文通过一个实际案例，演示如何使用Python自动下载网站图片。从基础的单线程脚本入手，逐步优化至多进程和多线程版本，对比不同并发策略在I/O密集型任务中的性能差异，帮助开发者掌握提升爬虫效率的关键技术。

Python自动下载网站图片的三种实现方案：从单线程到多线程优化

最近闲暇时，总有一种无形的力量萦绕在身边，让人精神涣散，昏昏欲睡。

然而，像这样具有高度职业操守的职场人士，怎么能在上班期间打瞌睡呢？我不禁陷入了沉思。

这时，旁边的iOS同事问道：‘嘿，兄弟，我发现一个网站的图片挺有意思的，能不能帮我保存下来，以此提升我的开发灵感？’作为一个坚强的职场人，怎么能说自己不行呢？当时我毫不犹豫地答应道：‘哦，这很简单。等我几分钟。’

点开同事提供的图片网站链接，

网站界面大致如下：

在翻阅了数十页之后，我突然感到有些上头。心中暗想：‘不对啊，我不是来学习的吗？可是看美女图片这件事怎么和学习关联起来呢？’

经过一番冥思苦想，突然脑中灵光一闪：‘要不写个Python爬虫吧，把这个网站的图片一网打尽。’

说干就干，身体力行。要问爬虫哪家强？‘人生苦短，我用Python’。

基础单线程爬虫实现

首先找到电脑里半年前下载的Python安装包，毫不犹豫地点击安装。环境配置好后，稍微分析一下网页结构，先编写一个简易版的爬虫程序。


#抓取爱小姐姐网图片保存到本地
import requests
from lxml import etree as et
import os

#请求头
headers = {
  #用户代理 
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36'
}

#待抓取网页基地址
base_url = ''
#保存图片基本路径
base_dir = 'D:/python/code/aixjj/'
#保存图片
def savePic(pic_url):
  #如果目录不存在，则新建
  if not os.path.exists(base_dir):
    os.makedirs(base_dir)
  
  arr = pic_url.split('/')
  file_name = base_dir+arr[-2]+arr[-1]
  print(file_name)
  #获取图片内容
  response = requests.get(pic_url, headers = headers)
  #写入图片
  with open(file_name,'wb') as fp:
    for data in response.iter_content(128):
      fp.write(data)

#观察此网站总共只有62页，所以循环62次
for k in range(1,63):
  #请求页面地址
  url = base_url+str(k)
  response = requests.get(url = url, headers = headers)
  #请求状态码
  code = response.status_code
  if code == 200:
    html = et.HTML(response.text)
    #获取页面所有图片地址
    r = html.xpath('//li/a/img/@src')
    #获取下一页url
    #t = html.xpath('//div[@class="page"]/a[@class="ch"]/@href')[-1]
    for pic_url in r:
      a = 'http:'+pic_url
      savePic(a)
  print('第%d页图片下载完成' % (k))

print('The End!')

尝试运行爬虫，嘿，没想到竟然成功了：

过了一会儿，旁边的同事又凑过来：‘嘿，bro，你这个程序虽然能用，但速度太慢了。我的灵感会被长时间的等待磨灭，你能改进一下吗？’

多进程版本优化

如何提升爬虫的效率呢？略一思索，公司的电脑可是拥有强大的四核CPU，不如尝试编写一个多进程版本？于是便产生了下面的多进程版本代码。


#多进程版——抓取爱小姐姐网图片保存到本地

import requests
from lxml import etree as et
import os
import time
from multiprocessing import Pool

#请求头
headers = {
  #用户代理 
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36'
}

#待抓取网页基地址
base_url = ''
#保存图片基本路径
base_dir = 'D:/python/code/aixjj1/'

#保存图片
def savePic(pic_url):
  #如果目录不存在，则新建
  if not os.path.exists(base_dir):
    os.makedirs(base_dir)
  
  arr = pic_url.split('/')
  file_name = base_dir+arr[-2]+arr[-1]
  print(file_name)
  #获取图片内容
  response = requests.get(pic_url, headers = headers)
  #写入图片
  with open(file_name,'wb') as fp:
    for data in response.iter_content(128):
      fp.write(data)

def geturl(url):
  #请求页面地址
  #url = base_url+str(k)
  response = requests.get(url = url, headers = headers)
  #请求状态码
  code = response.status_code
  if code == 200:
    html = et.HTML(response.text)
    #获取页面所有图片地址
    r = html.xpath('//li/a/img/@src')
    #获取下一页url
    #t = html.xpath('//div[@class="page"]/a[@class="ch"]/@href')[-1]
    for pic_url in r:
      a = 'http:'+pic_url
      savePic(a)

if __name__ == '__main__':
  #获取要爬取的链接列表
  url_list = [base_url+format(i) for i in range(1,100)]
  a1 = time.time()
  #利用进程池方式创建进程，默认创建进程数量=电脑核数
  #自己定义进程数量方式 pool = Pool(4)
  pool = Pool()
  pool.map(geturl,url_list)
  pool.close()
  pool.join()
  b1 = time.time()
  print('运行时间：',b1-a1)

抱着试一试的心态，运行了多进程版本爬虫，嘿，没想到又成功了。在四核CPU的加持下，爬虫速度提升了3到4倍。又过了一会儿，那哥们儿又偏过头来：‘你这个快是快了不少，但还不是最理想的状态，能不能一眨眼就能爬取百八十张图片？毕竟我的灵感来得快去得也快。’

我：‘……’ 悄悄打开Google，搜索如何提升爬虫效率，得到的结论是：

多进程：适用于密集CPU任务，需要充分利用多核CPU资源（如服务器、大量并行计算）的场景。多线程：适用于密集I/O任务（网络I/O、磁盘I/O、数据库I/O）的场景。

多线程版本最终方案

呵，我这可不就是I/O密集型任务吗？赶紧写一个多线程版爬虫试试。于是，第三款爬虫程序诞生了：


import threading # 导入threading模块
from queue import Queue #导入queue模块
import time #导入time模块
import requests
import os
from lxml import etree as et

#请求头
headers = {
  #用户代理 
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36'
}
#待抓取网页基地址
base_url = ''
#保存图片基本路径
base_dir = 'D:/python/code/aixjj/'

#保存图片
def savePic(pic_url):
  #如果目录不存在，则新建
  if not os.path.exists(base_dir):
    os.makedirs(base_dir)
  
  arr = pic_url.split('/')
  file_name = base_dir+arr[-2]+arr[-1]
  print(file_name)
  #获取图片内容
  response = requests.get(pic_url, headers = headers)
  #写入图片
  with open(file_name,'wb') as fp:
    for data in response.iter_content(128):
      fp.write(data)

# 爬取文章详情页
def get_detail_html(detail_url_list, id):
  while True:
    url = detail_url_list.get() #Queue队列的get方法用于从队列中提取元素
    response = requests.get(url = url, headers = headers)
    #请求状态码
    code = response.status_code
    if code == 200:
      html = et.HTML(response.text)
      #获取页面所有图片地址
      r = html.xpath('//li/a/img/@src')
      #获取下一页url
      #t = html.xpath('//div[@class="page"]/a[@class="ch"]/@href')[-1]
      for pic_url in r:
        a = 'http:'+pic_url
        savePic(a)

# 爬取文章列表页
def get_detail_url(queue):
  for i in range(1,100):
    #time.sleep(1) # 延时1s，模拟比爬取文章详情要快
    #Queue队列的put方法用于向Queue队列中放置元素，由于Queue是先进先出队列，所以先被Put的URL也就会被先get出来。
    page_url = base_url+format(i)
    queue.put(page_url)
    print("put page url {id} end".format(id = page_url))#打印出得到了哪些文章的url

#主函数
if __name__ == "__main__":
  detail_url_queue = Queue(maxsize=1000) #用Queue构造一个大小为1000的线程安全的先进先出队列
  #A线程负责抓取列表url
  thread = threading.Thread(target=get_detail_url, args=(detail_url_queue,)) 
  html_thread= []
  #另外创建三个线程负责抓取图片
  for i in range(20):
    thread2 = threading.Thread(target=get_detail_html, args=(detail_url_queue,i))
    html_thread.append(thread2)#B C D 线程抓取文章详情
  start_time = time.time()
  # 启动四个线程
  thread.start()
  for i in range(20):
    html_thread[i].start()
  # 等待所有线程结束，thread.join()函数代表子线程完成之前，其父进程一直处于阻塞状态。
  thread.join()
  for i in range(20):
    html_thread[i].join()
  print("last time: {} s".format(time.time()-start_time))#等ABCD四个线程都结束后，在主进程中计算总爬取时间。

粗略测试一下，得出结论：‘Oh my god，这也太快了吧！’ 将多线程版本爬虫的代码发给同事，并附言：‘拿去，速滚。’

到此为止，这篇关于Python自动下载图片的方法示例文章就介绍到这里了。更多相关Python自动下载图片的内容，请搜索本站以前的文章或继续浏览下面的相关文章，希望大家以后多多支持本站！