Python中Numpy数组读写文件的三种方式:Txt/CSV、Npy/Npz与Hdf5详解

周叙
周叙
发布时间:2026-10-12| 2人浏览过
原创

本文详细解析Numpy数组的三种主流文件存储方案。Txt/CSV适用于简单二维数据但需手动处理维度;Npy/Npz保留完整结构且支持多数组,适合常规场景;Hdf5凭借压缩与切片特性,成为处理大规模数组、避免内存溢出的最佳选择。

将Numpy数组持久化到文件中,用户可根据实际需求选择多种文件格式,每种格式对应特定的读写方法。

本文将重点介绍Numpy支持的三类主要文件读写机制:

  • Txt或Csv格式
  • Npy或Npz格式
  • Hdf5格式

利用Numpy读写Txt或Csv文件

import numpy as np

a = np.array(range(20)).reshape((4, 5))
print(a)

# 后缀改为 .txt 一样
filename = 'data/a.csv'
# 写文件
np.savetxt(filename, a, fmt='%d', delimiter=',')

# 读文件
b = np.loadtxt(filename, dtype=np.int32, delimiter=',')
print(b)

该方式存在以下局限性:

  • 仅支持保存一维和二维的Numpy数组。若数组a为高维数据,必须先通过a.reshape((a.shape[0], -1))将其展平为二维后,方可使用此方法保存。
  • 不支持追加保存模式。每次调用np.savetxt()时,都会直接覆盖文件中的现有内容。

利用Numpy读写Npy或Npz文件

Npy文件的读写操作

import numpy as np

a = np.array(range(20)).reshape((2, 2, 5))
print(a)

filename = 'data/a.npy'
# 写文件
np.save(filename, a)

# 读文件
b = np.load(filename)
print(b)
print(b.shape)

Npy格式的主要优势在于:

  • 支持保存任意维度的Numpy数组,不受一维或二维的限制;
  • Npy文件完整保留了Numpy数组的结构信息,包括保存时的shape(形状)和dtype(数据类型),读取时能完全还原这些属性。

Npy格式的局限性在于:

  • 每次保存仅能存储单个Numpy数组,且操作会覆盖文件中已存在的内容(若文件存在)。

Npz文件的读写操作

import numpy as np

a = np.array(range(20)).reshape((2, 2, 5))
b = np.array(range(20, 44)).reshape(2, 3 ,4)
print('a:\n', a)
print('b:\n', b)

filename = 'data/a.npz'
# 写文件, 如果不指定key,那么默认key为'arr_0'、'arr_1',一直排下去。
np.savez(filename, a, b=b)

# 读文件
c = np.load(filename)
print('keys of NpzFile c:\n', c.keys())
print("c['arr_0']:\n", c['arr_0'])
print("c['b']:\n", c['b'])

Npz格式的主要优势在于:

  • 同样支持保存任意维度的Numpy数组,不限于一维或二维;
  • 完整保留Numpy数组的结构,保存时的shape和dtype在读取时保持一致;
  • 支持在一个文件中同时保存多个Numpy数组;
  • 允许为保存的Numpy数组指定自定义key,便于读取时精准定位,避免数据混淆。

Npz格式的局限性在于:

  • 保存多个数组时必须一次性写入(例如np.savez(filename, a, b=b))。每次保存操作均会覆盖文件中已存在的内容(若文件存在)。

利用H5py读写Hdf5文件

Hdf5格式的主要优势在于:

  • 不限Numpy数组的维度,并能保持数组的结构和数据类型;
  • 特别适合处理庞大的Numpy数组,生成的文件体积相对较小;
  • 支持通过key访问dataset(可视为Numpy.array),读取便捷且不易混乱;
  • 支持不覆盖原文件中已存在的内容,允许增量写入。

基础读取示例

import numpy as np
import h5py

a = np.array(range(20)).reshape((2, 2, 5))
b = np.array(range(20)).reshape((1, 4, 5))
print(a)
print(b)

filename = 'data/data.h5'
# 写文件
h5f = h5py.File(filename, 'w')
h5f.create_dataset('a', data=a)
h5f.create_dataset('b', data=b)
h5f.close()

# 读文件
h5f = h5py.File(filename, 'r')
print(type(h5f))
# 通过切片得到numpy数组
print(h5f['a'][:])
print(h5f['b'][:])
h5f.close()
通过切片赋值
import numpy as np
import h5py

a = np.array(range(20)).reshape((2, 2, 5))
print(a)

filename = 'data/a.h5'
# 写文件
h5f = h5py.File(filename, 'w')
# 当数组a太大,需要切片进行操作时,可以不直接对h5f['a']进行初始化;
# 当之后不需要改变h5f['a']的shape时,可以省略maxshape参数
h5f.create_dataset('a', shape=(2, 2, 5), maxshape=(None, 2, 5), dtype=np.int32, compression='gzip')
for i in range(2):
    # 采用切片的形式赋值
    h5f['a'][i] = a[i]
h5f.close()

# 读文件
h5f = h5py.File(filename, 'r')
print(type(h5f))
print(h5f['a'])
# 通过切片得到numpy数组
print(h5f['a'][:])

同一个Hdf5文件内可创建多个dataset,读取时只需通过对应的key进行访问即可。

总结

  • Csv和Txt格式仅适用于存储一维或二维的Numpy数组;
  • Npy格式用于存储单个Numpy数组,而Npz格式可同时存储多个数组。两者均不限Numpy数组的维度,且能保持数组的shape和dtype。在写入文件时,若原文件已存在,则只能覆盖原文件内容;
  • 当Numpy数组规模较大时,推荐优先使用Hdf5格式,因为Hdf5文件相对更小;
  • 当Numpy数组规模巨大时,直接对整个数组进行运算容易触发MemoryError。此时可选择对数组进行切片,将运算后的结果保存到Hdf5文件中,Hdf5文件原生支持切片索引操作。

References

当Python遇上HDF5--性能优化实战 -- 张玉腾 杂: PYTHON上数据储存:推荐h5py -- Pony_s

到此这篇关于Numpy数组之读写文件的实现的文章就介绍到这了,更多相关Numpy数组读写文件内容请搜索本站以前的文章或继续浏览下面的相关文章希望大家以后多多支持本站!

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。