Python爬虫实战：正则表达式解析与图片抓取

山海之间

发布时间：2026-10-12| 2人浏览过

原创

本文详细解析Python爬虫中正则表达式的应用，重点讲解re.I、re.M、re.S等修饰符的区别与用法。通过对比多行匹配与整体匹配的输出结果，帮助开发者准确处理文本数据。最后提供完整的糗事百科图片爬取代码，涵盖URL拼接、请求头设置、文件夹创建及持久化存储等关键步骤，适合Python初学者参考学习。

本文主要介绍Python爬虫中正则表达式的解析方法。文中通过详细的示例代码进行了深入讲解，内容详实，对读者的学习或实际工作具有较高的参考价值，建议相关从业者仔细阅读参考。

在正则表达式中，常用的修饰符包括：- re.I：用于忽略大小写匹配。- re.M：启用多行匹配模式，使正则表达式作用于源数据的每一行。- re.S：启用单行匹配模式（点号匹配所有字符），将正则表达式作用于整个源数据，输出结果为一个整体字符串（即使包含换行符也会被打印出来）。

string = '''fall in love with you
i love you very much
i love she
i love her'''
# 去除以i开头的每一行数据
re.findall('^i.*',string,re.M)

示例输出列表如下：['i love you very much', 'i love she', 'i love her']

#匹配全部行
string1 = """细思极恐
你的队友在看书
你的敌人在磨刀
你的闺蜜在减肥
隔壁老王在练腰
"""
re.findall('.*',string1,re.S)

启用单行匹配模式后的输出示例：['细思极恐\n你的队友在看书\n你的敌人在磨刀\n你的闺蜜在减肥\n隔壁老王在练腰\n', '']

接下来演示一个实际应用场景：爬取糗事百科中所有的图片并进行本地保存。

import requests
import re
import urllib
import os

url = 'https://www.qiushibaike.com/pic/page/%d/?s=5170552'
# 自定义请求头信息
headers = {
  'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36'
}
# 判断是否存在名为qiutu的文件夹，如果不存在则创建文件夹
if not os.path.exists('./qiutu'):
  os.mkdir('./qiutu')
# 手动输入开始页，结束页
start_page = int(input('start>>>'))
end_page = int(input('end>>>'))

for page in range(start_page,end_page+1):
　　# 按照每页url形式拼接指定url
  new_url = format(url%page)
　　# 发起请求
  page_text = requests.get(url=new_url,headers=headers).text
　　# 使用正则找出page_text页面中所有图片url
  img_url_list = re.findall('<div class="thumb">.*?<img src="(.*?)" alt=.*?</div>',page_text,re.S)
　　# 给每一个图片url添加https协议头
  for img_url in img_url_list:
    img_url = 'https:' + img_url
　　　　　# 将图片url切割去除图片名称，作为存储时图片的名称
    img_name = img_url.split('/')[-1]
    img_path = 'qiutu/' + img_name、
　　　　　# 对图片做持久化存储
    urllib.request.urlretrieve(url=img_url,filename=img_path)
    print(img_path,'下载成功')
print('over')

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持本站。