Python多进程Manager共享可变数据陷阱与解决方案

许南星
许南星
发布时间:2026-10-13| 6人浏览过
原创

本文详解Python multiprocessing中Manager支持的类型,重点剖析Manager对list、dict等可变对象修改不同步的陷阱。通过引入中间变量触发__setitem__方法,可确保子进程修改被主进程感知,同时强调对象需满足pickle序列化要求。

Manager支持的数据类型

Manager支持的数据类型包括

list、dict、Namespace、Lock、RLock、Semaphore、BoundedSemaphore、Condition、Event、Queue、Value和Array。

可变对象修改陷阱与__setitem__机制

然而,在使用Manager处理list或dict等可变数据类型时,存在一个常见陷阱:Manager对象无法自动监测到其引用的可变对象内部值的修改,必须通过显式触发__setitem__方法来通知Manager更新状态。

触发__setitem__方法最直观的做法是引入一个中间变量,类似于C语言中交换两个变量值的逻辑:

int a=1;int b=2;int tmp=a;a=b;b=tmp;

以下是Python中的具体示例:


from multiprocessing import Manager,Process
def test_manager():
  m[0]['id'] = 2
m = Manager().list()
m.append({"id":1})
p = Process(target=test_manager)
p.start()
p.join()
print m[0]

执行结果如下:


{"id":1}

数据并未发生改变。

对test_manager()函数进行修改后:


def test_manager():
 tmp = m[0]
 tmp{"id"} = 2
 m[0] = tmp

此时的执行结果变为:


{"id":2}

进程对象序列化要求

此外,对于Process对象,需确保传递的对象支持pickle序列化。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持本站。

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。