Python实现文件与字符串编码识别:解决chardet误判问题

一颗松果
一颗松果
发布时间:2026-10-13| 2人浏览过
原创

本文介绍了一种Python自定义编码识别方法,旨在解决chardet工具在特定场景(如Windows记事本保存的GBK文件被误识为KOI8-R)下的局限性。通过遍历UTF-8、UTF-16、GB18030等编码并尝试解码,实现了对文件及字符串编码类型的准确判断,提供了完整的代码示例与使用说明。

在Python中,判断文件和字符串的编码类型通常使用chardet工具包,它能够识别大多数常见的编码格式。然而,在实际应用中曾遇到特殊情况:当读取由Windows记事本保存的txt文件时,原本应为GBK编码的文件却被chardet错误地识别为KOI8-R编码,且当时未找到直接解决办法。

针对上述问题,本文提供了一种简单的自定义编码识别方法,具体实现代码如下:

coding.py

# 说明:UTF兼容ISO8859-1和ASCII,GB18030兼容GBK,GBK兼容GB2312,GB2312兼容ASCII
CODES = ['UTF-8', 'UTF-16', 'GB18030', 'BIG5']
# UTF-8 BOM前缀字节
UTF_8_BOM = b'\xef\xbb\xbf'

# 获取文件编码类型
def file_encoding(file_path):
 """
 获取文件编码类型\n
 :param file_path: 文件路径\n
 :return: \n
 """
 with open(file_path, 'rb') as f:
  return string_encoding(f.read())

# 获取字符编码类型
def string_encoding(b: bytes):
 """
 获取字符编码类型\n
 :param b: 字节数据\n
 :return: \n
 """
 # 遍历编码类型
 for code in CODES:
  try:
   b.decode(encoding=code)
   if 'UTF-8' == code and b.startswith(UTF_8_BOM):
    return 'UTF-8-SIG'
   return code
  except Exception:
   continue
 return '未知的字符编码类型'

代码说明:file_encoding方法用于判断指定路径文件的编码类型,接收文件路径作为参数;string_encoding方法用于判断字符串的编码类型,接收字符串对应的字节数据作为参数。

使用示例如下:

import coding
file_name = input('请输入待识别文件路径:\n')
encoding = coding.file_encoding(file_name)
print(encoding)

以上关于Python判断文件和字符串编码类型的实例内容分享到此结束,希望能为读者提供参考,并欢迎大家继续支持本站。

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。