Python爬虫实现智能翻页批量下载PDF文件的实战教程

晚来风

发布时间：2026-10-14| 2人浏览过

原创

本文详细介绍如何使用Python爬虫实现智能翻页并批量下载文件。通过解析初始页面获取分类链接，自动识别尾页页数进行循环翻页，提取每页的文件名与下载链接，最终将文件保存至本地指定文件夹。以京客隆网站为例，演示了从解析HTML到批量下载PDF文档的完整流程。

Python爬虫智能翻页批量下载文件实战

在使用Python爬虫抓取文件内容时，面对需要逐页翻页的情况往往显得繁琐。实际上，我们可以先获取列表中的文件名和对应链接，将其整理为列表结构保存，随后执行下载操作，从而实现智能翻页与批量下载。本文以京客隆网站为例，针对其财务资料等PDF格式报告，演示如何针对特定页面目标，批量下载各个分类下的文件。

引入必要库

首先需要引入必要的Python库。


import requests
import pandas as pd
from lxml import etree
import re
import os

解析初始页面

接着解析初始页面以获取基础数据。


baseUrl ='http://www.jkl.com.cn/cn/invest.aspx' # 爬取页面的数据
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) 
Chrome/81.0.4044.92 Safari/537.36'
}
res =requests.get(url=baseUrl,headers=heade).text  
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text  #  设置变量接受 基础页的响应数据
# print(res.text)
html = etree.HTML(res)

获取分类名称与URL

随后提取投资关系分类的名称及其对应的URL地址。


data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投资者列表的名字
data_link = html.xpath('//div[@class="infoLis"]//@href')  # 全部列表的链接
name = [data_name.strip() for data_name in data_name]  # 通过for循环去掉空字符
link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link] # 拼接字符串
# 合并为字典，方便保存文件
file = dict(zip(name,link))

创建分类文件夹

针对每个列表信息，创建独立的文件夹以便分类存储。


for name,link in file.items():
  name=name.replace('/','.')
  name=name.replace('...','报表')
  # 上面的把文件名带特许字符的 强制转换为我们想要的文本类型
  path = 'E:/'+ name
  if not os.path.exists(path):
    os.mkdir(path)
    #建立储存位置

解析列表并获取尾页信息

对列表中的每个项目链接进行解析，重点获取尾页信息以确定总页数。


  res_list = requests.get(url = link, headers = heade).text
  list_html = etree.HTML(res_list)
  # print(html_erJi) 解析每个分类的链接
  weiYe = list_html.xpath('//a[text()="尾页"]/@href')
  # print(html_weiye)
  # 拿到尾页信息
  if weiYe !=[]:
    # 正则提取尾页信息
    get_weiYe =re.search("(\d+)'\)",html_weiye[0])
    get_yeMa = get_html_weiYe.group(1)
  else:
    get_yeMa=1
  # print(get_html_yeMa) 看看是不是提取成功

提取文件名与下载链接

遍历每个列表，提取其中的文件名和具体的文件下载链接。


  for get_yeMa in range(1,int(get_yeMa)+1): # 翻页
    yaMa= {
    '__EVENTTARGET': 'AspNetPager1',
    '__EVENTARGUMENT': get_yeMa
    }
    get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
    res3 =etree.HTML(get_lei_html)
    # print(res3)
    pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
    # print(pdf_name)
    pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')

整理数据并执行下载

将提取的文件名和链接整理为列表或字典格式，保存后执行批量下载操作。


 pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
 # print(pdf_names)
 if all(pdf_url):
      pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
      # print(pdf_url)
      pdf_data=dict(zip(pdf_names,pdf_urls))  # pdf地址和名字整合为字典
      for pdfName,pdfUrl in pdf_data.items():
        pdfName =pdfName.replace('/','.')
        res_pdf= requests.get(url =pdfUrl,headers=heade).content
        houZui = pdfUrl.split('.')[-1]
        pdf_pash = path + '/' + pdfName + '.'+ houZui  # 
        # print(pdf_pash)
        with open(pdf_pash,'wb') as f:
          f.write(res_pdf)
          print(pdfName,'下载成功')