Python实现简易负载均衡：轮询未宕机节点

闻溪

发布时间：2026-10-13| 3人浏览过

原创

本文介绍使用Python实现简易负载均衡的方法。不同于Nginx的复杂策略，该方案将请求随机分配至可用的后端服务节点。若首选节点不可用，则自动重试其他节点，直至遍历所有地址或成功响应。适用于对压力感知无要求的简单场景。

谈及请求分发，Nginx往往是人们首先联想到的工具。作为多功能服务器，Nginx不仅能通过反向代理隐藏主机IP，还具备基础的缓存加速功能。其核心优势在于强大的请求分发能力，支持哈希、一致性哈希及负载均衡等多种模式，同时保持了服务的轻量与稳定。即便长期处于高并发环境，Nginx服务器也极少出现宕机情况。

在Nginx的负载均衡机制中，请求会被导向当前压力最小且未宕机的服务器。本文暂不探讨服务器压力因素，而是使用Python实现一种最基础的负载均衡方式：仅将请求发送至状态正常的服务器。

假设我们需要调用module_b模块提供的接口，该服务部署在10.10.10.115服务器的10081、10082、10083和10084这四个端口上。

#!/usr/bin/python
# -*- coding: utf-8 -*-
import requests
import random
import os
import sys
import time
import ConnectionError
import Module_bException
module_b = "10.10.10.115:10081,10.10.10.115:10082,10.10.10.115:10083,10.10.10.115:10084"
class Module_b():
  def __init__(self):
    self.url_prefix = [val.strip() for val in module_b.split(',')]
  def _request(self, short_uri, payload):
    res = None
    try_count = 1
    url_prefixs = self.url_prefix[:]
    url_prefixs.sort(key=lambda f: random.randint(0, 100))
　　　　　　
    for curr_url_prefix in url_prefixs:
      url = os.path.join(curr_url_prefix, short_uri)
      try:
        res = requests.post(url, data=payload)
        break
      except ConnectionError as e:
        try_count += 1
        sys.stderr.write('can not connect to Module_b, retry ...\n')
        time.sleep(1)
        if try_count == len(url_prefixs):
          raise e
    if res.status_code != 200:
      raise Module_bException('HTTP ERROR: %s' % res.text)
    result = res.json()
    if result['status'] != '0':
      raise Module_bException(result['errstr'])
    return result['result']

其中，ConnecttionError和Module_bException为已封装好的异常类，此处无需深入关注其具体实现。

负载均衡逻辑的实现较为直观：接收API路径和参数后，从所有module_b地址列表中随机选取一个节点，构建完整的requests请求。若该节点无法访问，则尝试下一个未访问过的地址，依次重试，直到遍历完所有module_b服务地址。

总结

以上介绍了Python实现负载均衡的简易方法，希望能为读者提供帮助。如有任何疑问，欢迎留言，作者将及时回复。