JMeter并发执行Python脚本:大文件上传接口压力测试实战

桃夭
桃夭
发布时间:2026-10-15| 6人浏览过
原创

本文详细介绍如何利用JMeter并发执行Python脚本,对大文件上传API进行稳定性压力测试。通过Python实现文件切片、分段上传及合并逻辑,结合JMeter的OS进程取样器与CSV数据驱动,模拟多用户高并发场景,验证接口在真实负载下的性能表现。

本文以文件上传场景为例,详细解析使用JMeter并发执行Python脚本的完整操作流程。

1. 前言

大家好,我是安果!

近期有开发者咨询,在使用Django开发大文件上传API后,希望验证接口在并发场景下的稳定性,寻求可行的测试方案。

本文将通过具体案例,演示如何通过JMeter调用Python脚本实现并发测试。

2. Python 实现文件上传

大文件上传通常包含以下三个核心步骤:

  • 获取文件信息及切片数目
  • 分段切片,并调用上传API
  • 调用文件合并API
  • 文件路径参数化配置

2-1获取文件信息及切片数目

首先,需要获取文件的总大小。

接着,根据预设的切片大小计算分段总数。

最后,获取文件名及文件的MD5校验值。


import os
import math
import hashlib

def get_file_md5(self, file_path):
    """获取文件的md5值"""
    with open(file_path, 'rb') as f:
         data = f.read()
         return hashlib.md5(data).hexdigest()

def get_filename(self, filepath):
    """获取文件原始名称"""
    # 文件名带后缀
    filename_with_suffix = os.path.basename(filepath)
    # 文件名
    filename = filename_with_suffix.split('.')[0]
    # 后缀名
    suffix = filename_with_suffix.split('.')[-1]
    return filename_with_suffix, filename, suffix

def get_chunk_info(self, file_path):
    """获取分段信息"""
    # 获取文件总大小(字节)
    file_total_size = os.path.getsize(file_path)
    print(file_total_size)

    # 分段总数
    total_chunks_num = math.ceil(file_total_size / self.chunk_size)
    # 文件名(带后缀)
    filename = self.get_filename(file_path)[0]
    # 文件的md5值
    file_md5 = self.get_file_md5(file_path)
    return file_total_size, total_chunks_num, filename, file_md5

2-2切片及分段上传

依据计算出的分段总数和大小,对文件进行切片处理,并依次调用分段文件上传接口。


import requests

def do_chunk_and_upload(self, file_path):
​    """将文件分段处理,并上传"""
    file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)

    # 遍历
    for index in range(total_chunks_num):
        print('第{}次文件上传'.format(index + 1))
        if index + 1 == total_chunks_num:
            partSize = file_total_size % chunk_size
        else:
            partSize = chunk_size

        # 文件偏移量
        offset = index * chunk_size

        # 生成分片id,从1开始
        chunk_id = index + 1

        print('开始准备上传文件')
        print("分片id:", chunk_id, "文件偏移量:", offset, ",当前分片大小:", partSize, )

        # 分段上传文件
        self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)

def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
    """分次上传文件"""
    url = 'http://**/file/brust/upload'
    params = {'chunk': chunk_id,
                'fileMD5': file_md5,
                'fileName': filename,
                'partSize': partSize,
                'total': total
                }
    # 根据文件路径及偏移量,读取文件二进制数据
    current_file = open(file_path, 'rb')
    current_file.seek(offset)

    files = {'file': current_file.read(partSize)}
    resp = requests.post(url, params=params, files=files).text
    print(resp)

2-3合并文件

最后调用合并文件接口,将上传的各分段小文件合并为完整的大文件。


def merge_file(self, filepath):
        """合并"""
        url = 'http://**/file/brust/merge'
        file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
​        payload = json.dumps(
            {
                "fileMD5": file_md5,
                "chunkTotal": total_chunks_num,
                "fileName": filename
            }
        )
        print(payload)
        headers = {
            "Content-Type": "application/json"
        }
        resp = requests.post(url, headers=headers, data=payload).text
        print(resp)

2-4文件路径参数化

为了支持并发执行,需要将文件上传路径进行参数化处理。


# fileupload.py
...
if __name__ == '__main__':
    filepath = sys.argv[1]

    # 每一段切片的大小(MB)
    chunk_size = 2 * 1024 * 1024

    fileApi = FileApi(chunk_size)
    # 分段上传
    fileApi.do_chunk_and_upload(filepath)

    # 合并
    fileApi.merge_file(filepath)

3. Jmeter 并发执行

在JMeter中构建并发流程前,需先编写配套的批处理脚本。

执行该批处理脚本时,需传入文件路径作为参数。


# cmd.bat

@echo off
set filepath=%1

python  C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*

随后,在本地新建一个CSV文件,用于存储多个待测试的文件路径。

# 准备多个文件路径(csv) C:\\Users\\xingag\\Desktop\\charles-proxy-4.6.1-win64.msi C:\\Users\\xingag\\Desktop\\V2.0.pdf C:\\Users\\xingag\\Desktop\\HBuilder1.zip C:\\Users\\xingag\\Desktop\\HBuilder2.zip

完成上述准备后,即可使用JMeter创建并发测试流程。

具体操作步骤如下:

  • 创建一个测试计划,并在其中添加一个线程组。

线程组的线程数(并发用户数)应与CSV文件中包含的文件路径数量保持一致。

  • 在线程组下,添加「同步定时器」。

同步定时器中的「模拟用户组的数量」需与参数数量保持一致,以确保并发启动。

  • 添加CSV数据文件设置元件。

指定之前准备的CSV数据文件,格式设置为UTF-8,变量名称设为file_path,线程共享模式选择「当前线程组」。

  • 添加调试取样器,便于查看变量值进行调试。
  • 添加OS进程取样器。

选择之前创建的批处理文件,命令行参数设置为「${file_path}」以动态传入文件路径。

  • 添加查看结果数元件,用于监控测试执行状态。

4. 最后

运行上述配置的JMeter并发流程,通过查看结果数可以观察并发上传文件的执行结果。

如需模拟更真实的业务场景,可增加并发数量,只需相应修改CSV数据源及JMeter相关参数即可。

至此,关于JMeter并发执行Python脚本的详解介绍完毕。如需了解更多相关内容,请搜索本站历史文章或继续浏览后续教程,感谢大家的支持!

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。