Python爬虫UnicodeDecodeError异常处理与通用解码方案

小鹿同学

发布时间：2026-10-13| 6人浏览过

原创

本文详解Python爬虫中常见的UnicodeDecodeError异常原因，并提供两种通用解码策略：通过HTML标签提取charset自动解码，以及遍历utf-8、gbk等常用编码并配合errors='replace'参数尝试解析。通过对比数据完整性，推荐以实际数据表现选择最佳编码方式，有效解决网页抓取中的乱码问题。

爬虫解码异常概述

在编写爬虫程序时，经常遇到因网页编码不一致导致的解码异常问题。

默认解码异常示例


response.content.decode() # 默认使用 utf-8 出现解码异常

通用解码策略设计

针对这一痛点，可以设计一套通用的解码逻辑来处理不同来源的数据。

基于HTML标签的编码检测

一种有效的方法是先通过网页文本内容来推断其字符编码。

编码检测代码实现


# 通过 text 获取编码
import requests
from lxml import etree


def public_decode():
 headers = {
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36'
 }
 response = requests.get('https://blog.csdn.net/a13951206104', headers=headers)
 html = etree.HTML(response.text) # response.text 能自动获取编码, 大多乱码
 _charset = html.xpath('//@charset') or []
 if _charset:
  encode_content = response.content.decode(_charset[0].strip().lower(),
             errors='replace') # 如果设置为replace，则会用?取代非法字符；
  return {'response_text': encode_content, "response_obj": response}
 for _charset_ in ['utf-8', 'gbk', 'gb2312'] # 国内主要这3种:
  if '�' not in response.content.decode(_charset_, errors='replace'):
   return {'response_text': response.content.decode(_charset_, errors='replace'),
     "response_obj": response}
  else:
   # 默认还得是 utf-8
   return {'response_text': response.content.decode('utf-8', errors='replace'),
     "response_obj": response}

基于数据的解码推荐方案

另一种更推荐的做法是直接利用原始数据来尝试解码，从而验证编码的准确性。

数据驱动解码代码示例


def public_decode(response):
 headers = {
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36'
 }
 response = requests.get('https://blog.csdn.net/a13951206104', headers=headers)
 html = etree.HTML(response.text)
 # 不希望抓下来的数据中有非法字符
 item = dict()
 result = None
 for _charset_ in ['utf-8', 'gbk', 'gb2312']:
  if response:
   result = response.content.decode(_charset_, errors='replace')
   item['content'] = html.xpath('//*[@id="content"]')
   if '�' not in result['content'].strip():
    result =response.content.decode(_charset_, errors='replace')
    break
 if not result:
  # 默认 utf-8
  result = response.content.decode(_charset_, errors='replace')