Python并发编程实战:进程锁、队列通信与线程详解

夏知夏
夏知夏
发布时间:2026-10-13| 6人浏览过
原创

本文深入解析Python并发编程核心机制。详细讲解如何利用进程互斥锁解决多进程抢票数据竞争问题,确保数据一致性;介绍Queue队列在进程间通信(IPC)中的应用,包括生产者-消费者模型实现;对比进程与线程的资源开销差异,演示两种线程创建方式、常用方法以及使用互斥锁保护共享数据的具体代码示例。

进程互斥锁与数据同步

进程互斥锁

多进程抢票场景模拟

在多进程并发环境下模拟多人同时抢购剩余票数的场景。当多个进程同时读取和修改同一资源文件时,若缺乏同步机制,极易导致数据写入错乱或超卖现象。


# 并发运行,效率高,但竞争写同一文件,数据写入错乱
# data.json文件内容为 {"ticket_num": 1}
import json
import time
from multiprocessing import Process
def search(user):
  with open('data.json', 'r', encoding='utf-8') as f:
    dic = json.load(f)
  print(f'用户{user}查看余票,还剩{dic.get("ticket_num")}...')
def buy(user):
  with open('data.json', 'r', encoding='utf-8') as f:
    dic = json.load(f)

  time.sleep(0.1)
  if dic['ticket_num'] > 0:
    dic['ticket_num'] -= 1
    with open('data.json', 'w', encoding='utf-8') as f:
      json.dump(dic, f)
    print(f'用户{user}抢票成功!')

  else:
    print(f'用户{user}抢票失败')
def run(user):
  search(user)
  buy(user)
if __name__ == '__main__':
  for i in range(10): # 模拟10个用户抢票
    p = Process(target=run, args=(f'用户{i}', ))
    p.start()

锁机制保障数据安全

引入锁机制是保障并发环境下数据安全的必要手段。通过互斥锁,可以确保同一时刻只有一个进程能修改共享资源,从而避免数据竞争。


# data.json文件内容为 {"ticket_num": 1}
import json
import time
from multiprocessing import Process, Lock
def search(user):
  with open('data.json', 'r', encoding='utf-8') as f:
    dic = json.load(f)
  print(f'用户{user}查看余票,还剩{dic.get("ticket_num")}...')
def buy(user):
  with open('data.json', 'r', encoding='utf-8') as f:
    dic = json.load(f)

  time.sleep(0.2)
  if dic['ticket_num'] > 0:
    dic['ticket_num'] -= 1
    with open('data.json', 'w', encoding='utf-8') as f:
      json.dump(dic, f)
    print(f'用户{user}抢票成功!')

  else:
    print(f'用户{user}抢票失败')
def run(user, mutex):
  search(user)
  mutex.acquire() # 加锁
  buy(user)
  mutex.release() # 释放锁
if __name__ == '__main__':
  # 调用Lock()类得到一个锁对象
  mutex = Lock()

  for i in range(10): # 模拟10个用户抢票
    p = Process(target=run, args=(f'用户{i}', mutex))
    p.start()

进程互斥锁的核心作用在于将并发操作转化为串行执行。虽然这在一定程度上牺牲了程序的执行效率,但它严格保证了数据的安全性和一致性。

互斥锁通过强制串行化关键代码段,以性能换取数据正确性。在涉及共享资源修改的高并发场景中,这是防止数据损坏的关键策略。

在程序进行并发操作且涉及数据修改时,必须使用锁机制来保护共享资源,防止多个进程同时写入导致的状态不一致。

Queue队列基础与操作

队列(Queue)是Python中用于进程间通信的重要数据结构。

队列遵循先进先出(FIFO)原则,即最早进入队列的数据将最先被取出。

队列可视为内存中一个具有容量限制的空间,用于存储多个数据对象。数据的存取顺序严格由进入队列的先后顺序决定,确保处理逻辑的可预测性。

使用 q.put() 方法向队列中添加数据。如果队列已满,该方法默认会阻塞等待,直到有空闲位置。

使用 q.get() 方法从队列中获取数据,该操作严格遵循先进先出原则。如果队列为空,该方法会阻塞等待,直到有数据可用。

使用 q.get_nowait() 尝试获取队列数据。如果队列中没有数据,该方法不会阻塞,而是立即抛出 Empty 异常。

使用 q.put_nowait() 尝试添加数据。如果队列已满,该方法不会阻塞,而是立即抛出 Full 异常。

使用 q.full() 方法检查队列是否已满,返回布尔值。

使用 q.empty() 方法检查队列是否为空,返回布尔值。注意:由于并发环境下的时序问题,empty() 的返回值可能不准确,仅作为参考。


from multiprocessing import Queue

# 调用队列类,实例化队列对象
q = Queue(5)  # 队列中存放5个数据

# put添加数据,若队列里的数据满了就会卡住
q.put(1)
print('进入数据1')
q.put(2)
print('进入数据2')
q.put(3)
print('进入数据3')
q.put(4)
print('进入数据4')
q.put(5)
print('进入数据5')

# 查看队列是否满了
print(q.full())

# 添加数据, 若队列满了也会报错
q.put_nowait(6)

# q.get() 获取的数据遵循先进先出
print(q.get())
print(q.get())
print(q.get())
print(q.get())
print(q.get())
# print(q.get())
print(q.get_nowait())  # 获取队列数据, 队列中没有就会报错

# 判断队列是否为空
print(q.empty())
q.put(6)
print('进入数据6')

进程间通信(IPC)与队列应用

进程间通信(Inter-Process Communication, IPC)是指不同进程之间交换数据或信号的技术。

IPC 是操作系统提供的机制,允许独立运行的进程之间进行数据交换。

由于进程间内存空间相互隔离,无法直接访问对方变量。要实现进程间通信,可以利用 Queue 队列作为中介,安全地传递数据。


from multiprocessing import Process, Queue
def task1(q):
  data = 'hello 你好'
  q.put(data)
  print('进程1添加数据到队列')
def task2(q):
  print(q.get())
  print('进程2从队列中获取数据')
if __name__ == '__main__':
  q = Queue()

  p1 = Process(target=task1, args=(q, ))
  p2 = Process(target=task2, args=(q, ))
  p1.start()
  p2.start()
  print('主进程')

生产者-消费者模型

生产者与消费者模型是并发编程中经典的队列应用场景,用于解耦数据生成与处理过程。

在程序设计中,通过队列实现生产者与消费者模式:生产者进程负责将数据添加到队列中,消费者进程则从队列中获取并处理数据,两者通过队列进行解耦协作。


from multiprocessing import Process, Queue
import time


# 生产者
def producer(name, food, q):
  for i in range(10):
    data = food, i
    msg = f'用户{name}开始制作{data}'
    print(msg)
    q.put(data)
    time.sleep(0.1)
# 消费者
def consumer(name, q):
  while True:
    data = q.get()
    if not data:
      break

    print(f'用户{name}开始吃{data}')
if __name__ == '__main__':
  q = Queue()
  p1 = Process(target=producer, args=('neo', '煎饼', q))
  p2 = Process(target=producer, args=('wick', '肉包', q))

  c1 = Process(target=consumer, args=('cwz', q))
  c2 = Process(target=consumer, args=('woods', q))

  p1.start()
  p2.start()
  
  c1.daemon = True
  c2.daemon = True
  c1.start()
  c2.start()
  print('主')

Python线程基础与创建

线程(Thread)是操作系统能够进行运算调度的最小单位,常被包含在进程之中。

理解线程的基本概念及其与进程的异同,是掌握Python并发编程的基础。

进程和线程都是操作系统引入的虚拟概念,用于更好地管理资源分配和执行调度。

进程是资源分配的基本单位,每个进程拥有独立的内存空间、文件描述符等资源。

线程是CPU调度和执行的基本单位,线程本身几乎不拥有系统资源,仅需要少量的栈空间和寄存器。

每当创建一个进程时,操作系统会自动为其创建一个主线程。因此,一个进程至少包含一个线程,而真正的代码执行是由线程完成的。

进程与线程的创建开销对比

创建进程的过程包括:

  • 开辟一个新的名称空间,为进程分配独立的内存地址空间。每开启一个进程都会占用一份完整的内存资源,开销较大。
  • 系统会自动为新建的进程创建一个主线程,该线程负责执行进程的主要逻辑。

创建线程的过程包括:

  • 一个进程可以创建多个线程,这些线程共享进程的资源(如内存空间、文件句柄等)。
  • 线程的创建和切换开销远小于进程,因为无需分配新的内存空间和资源副本,因此更适合轻量级并发任务。

线程并发与进程并行的区别

需要注意:由于GIL(全局解释器锁)的存在,Python中的线程无法实现真正的并行计算(多核CPU同时执行),只能实现并发(交替执行)。而进程可以实现真正的并行,利用多核CPU优势。

线程的两种创建方式

Python中创建线程主要有两种常见方式:


from threading import Thread
import time
# 创建线程方式1
def task():
  print('线程开启')
  time.sleep(1)
  print('线程结束')

if __name__ == '__main__':
  t = Thread(target=task)
  t.start()
# 创建线程方式2
class MyThread(Thread):
  def run(self):
    print('线程开启...')
    time.sleep(1)
    print('线程结束...')
if __name__ == '__main__':
  t = MyThread()
  t.start()

线程对象常用方法

线程对象提供了一系列方法用于控制和管理线程状态,如启动、等待、判断存活等。


from threading import Thread
from threading import current_thread
import time

def task():
  print(f'线程开启{current_thread().name}')
  time.sleep(1)
  print(f'线程结束{current_thread().name}')
if __name__ == '__main__':
  t = Thread(target=task)
  print(t.isAlive())
  # t.daemon = True
  t.start()
  print(t.isAlive())

线程互斥锁与共享数据保护

线程互斥锁用于解决多线程环境下对共享资源访问的竞争问题,确保数据一致性。

与进程不同,同一进程内的所有线程共享该进程的内存空间和数据,因此线程间数据是共享的,这也带来了数据竞争的风险。


from threading import Thread
from threading import Lock
import time

mutex = Lock()
n = 100

def task(i):
  print(f'线程{i}启动')
  global n
  mutex.acquire()
  temp = n
  time.sleep(0.1)
  n = temp - 1
  print(n)
  mutex.release()
  
if __name__ == '__main__':
  t_l = []
  for i in range(100):
    t = Thread(target=task, args=(i, ))
    t_l.append(t)
    t.start()

  for t in t_l:
    t.join()

  print(n)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持本站。

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。