Python与C语言混编的几种实现方式详解

小林子
小林子
发布时间:2026-10-13| 2人浏览过
原创

本文详细解析Python与C语言混编的三种主流方式:通过ctypes加载共享库、利用subprocess调用可执行文件,以及使用C API编写Python扩展模块。文章结合Linux环境下的具体代码示例,对比了各方案的性能特点与适用场景,帮助开发者根据实际需求选择最优的混编策略。

近年来,Python的发展势头强劲,已广泛应用于Web开发、大数据处理、人工智能及运维自动化等多个领域,甚至在图形界面开发方面也表现优异。在full-stack(全栈)概念提出之初,Python似乎就是为了描述这种全能型角色而存在的。

尽管Python存在全局解释器锁(GIL)导致多线程难以充分利用多核CPU的问题,但通过multiprocess模块从多进程角度利用多核,甚至结合affinity绑定特定CPU核心,该问题已得到有效缓解。虽然Python具备全栈能力,但在追求极致效率的场景下,与C语言进行混编仍是常见选择。混编涉及技术、架构、团队管理及客户需求等多重因素,本文仅聚焦于Python与C语言混编的具体实现方式。以下介绍几种主要方法(基于Linux平台,其他平台可参考类比):

共享库方式

首先使用C语言编译生成共享库,随后Python通过ctype库中的cdll模块加载并调用该共享库。

具体示例如下,C语言源代码为:

/* func.c */int func(int a)
{
 return a*a;
} 

对应的Python调用代码为:

#!/usr/bin/env python
#test_so.pyfrom ctypes import cdll
import os

p = os.getcwd() + '/libfunc.so'
f = cdll.LoadLibrary(p)
print f.func(99)  

测试结果如下:

$ gcc -fPIC -shared func.c -o libfunc.so 
$ ./test_so.py 
9801

子进程(subprocess)方式

C语言设计一个完整的可执行文件,Python通过subprocess模块执行该程序。其本质是执行fork和execve系统调用。

具体示例如下,C语言源代码为:

/* test.c */
#include <stdio.h>
int func(int a)
{
 return a*a;
}

int main(int argc, char **argv)
{
 int x;

 sscanf(argv[1], "%d", &x);
 printf("%d\n", func(x));
 return 0;
}

Python调用代码如下:

#!/usr/bin/env python # test_subprocess.py import os import subprocess

subprocess.call([os.getcwd()+'/a.out', '99'])

测试过程如下:

$ gcc test.c -o a.out $ ./test_subprocess.py 9801

在C语言中运行Python程序

C语言通过popen、system函数或直接使用系统调用级的fork+exec来运行Python程序,这也是一种混编手段。

具体示例如下,Python代码片段为:

#!/usr/bin/env python
# test.py
import sys
x = int(sys.argv[1])
print x*x  

对应的C语言代码如下:

/* test.c */
#include <stdio.h>
#include <stdlib.h>
int main()
{
 FILE *f;
 char s[1024];
 int ret;

 f = popen("./test.py 99", "r");
 while((ret=fread(s,1,1024,f))>0) {
  fwrite(s,1,ret,stdout);
 }
 fclose(f);
 return 0;
}

测试结果如下:

$ gcc test.c 
$ ./a.out
9801 

Python对C语言扩展的支持

许多编程语言都提供了对C语言扩展的支持,主要原因有二:一是语言设计初期可充分利用C语言已有的丰富库资源;二是C语言具有极高的运行效率。

Python也不例外,自诞生以来,许多核心库均由C语言编写。Python的C语言扩展涉及Python数据结构与C语言类型的映射,其核心方法是用C语言编写一个共享库,但该库的接口需遵循规范,以便Python识别和调用。

为了说明扩展方法,先假设一个Python函数的功能,代码如下:

def func(*a):
 res=1
 for i in range(len(a)):
 res *= sum(a[i])
 return res

如上所示,期望的函数功能是接收任意多个数字组成的列表(暂排除其他数据结构),返回每个列表元素之和的乘积。

先编写对应的Python代码,如下所示:

#!/usr/bin/env python
# test.py
import colin

def func(*a):
 res=1
 for i in range(len(a)):
 res *= sum(a[i])
 return res

a = [1,2,3]
b = [4,5,6]
c = [7,8]
d = [9]
e = [10,11,12,13,14]

f = colin.func2(99)
g = colin.func3(a,b,c,d,e)
h = func3(a,b,c,d,e)
print "f = ",f
print "g = ",g
print "h = ",h

结合之前测试的平方函数func,该实现相对简单,希望Python编写的func与C语言扩展出的结果保持一致。

首先用C语言实现这些函数,其中func3使用了表示任意多个任意长数组的数据结构y_t,而x_t用于表示单个数组。

/* colin.h */
#ifndef Colin_h
#define Colin_h
typedef struct {
 int *a;
 int len;
} x_t;
typedef struct {
 x_t *ax;
 int len;
} y_t;
int func2(int a);
int func3(y_t *p);
void free_y_t(y_t *p);
#endif
/* colin.c */
#include "colin.h"
#include <stdlib.h>

int func2(int a)
{
 return a*a;
}

int func3(y_t *p)
{
 int result;
 int sum;
 int i, j;

 result = 1;
 for(i=0;i<p->len;i++) {
  sum = 0;
  for(j=0;j<p->ax[i].len;j++)
   sum += p->ax[i].a[j];
  result *= sum;
 }

 return result;
}

void free_y_t(y_t *p)
{
 int i;
 for(i=0;i<p->len;i++) {
  free(p->ax[i].a);
 }
 free(p->ax);
}

上述代码定义了三个函数,func2代表平方运算,func3代表前述功能。由于y_t结构体可能是动态分配的,因此提供一个释放内存的方法。

前文提到,Python扩展需要将共享库接口“标准化”。因此,我们需要进行包装,并提供Python加载的入口。

/* wrap.c */
#include <Python.h>
#include <stdlib.h>
#include "colin.h"
PyObject* wrap_func2(PyObject* self, PyObject* args)
{
 int n, result;
 /* 从参数列表中导出一个整形,用"i" */
 if (!PyArg_ParseTuple(args, "i", &n))
  return NULL;

 /* 用C语言的库实现来计算 */
 result = func2(n);
 /* 计算结果必须要导成python识别的类型 */
 return Py_BuildValue("i", result);
}

PyObject* wrap_func3(PyObject* self, PyObject* args)
{
 int n, result;
 int i, j;
 int size, size2;
 PyObject *p,*q;
 y_t *y;

 y = malloc(sizeof(y_t));
 /* 先数数有多少个参数,也就是列表的个数 */
 size = PyTuple_Size(args);
 /* 把数组的个数先分配了 */
 y->len = size;
 y->ax = malloc(sizeof(x_t)*size);
 /* 遍历python里各个列表(参数) */
 for(i=0;i<size;i++) {
  /* 先获得第i个参数,是一个列表 */
  p = PyTuple_GetItem(args, i);
  /* 获得列表的长度 */
  size2 = PyList_Size(p);
  /* 为数组分配好空间 */
  y->ax[i].len = size2;
  y->ax[i].a = malloc(sizeof(int)*size2);
  /* 遍历列表,依次把列表里的数转到数组里 */
  for(j=0;j<size2;j++) {
   q = PyList_GetItem(p, j);
   PyArg_Parse(q,"i",&y->ax[i].a[j]);
  }
 }

 /* 用C语言的库实现来计算 */
 result = func3(y);
 free_y_t(y);
 free(y);
 /* 结果转成python识别格式 */
 return Py_BuildValue("i", result);
}

/* 这是接口列表,加载时是只加载此列表的地址,所以这个数据结构不能放栈(局部变量)内,会被清掉 */
static PyMethodDef colinMethods[] =
{
 {"func2", wrap_func2, METH_VARARGS, "Just a test"},
 {"func3", wrap_func3, METH_VARARGS, "Just a test"},
 {NULL, NULL, METH_NOARGS, NULL}
};

/* python加载的时候的接口 */
/* 注意,既然库名叫colin,此函数必须交initcolin */
void initcolin()
{
 PyObject *m;
 m = Py_InitModule("colin", colinMethods);
}

在此过程中,我推测PyArg_VaParse功能可能更为强大,但经过反复测试未成功,也未深入查阅文档。

进行测试:

$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so 
$ ./test.py 
f = 9801 
g = 729000 
h = 729000 

可以看到,C语言编写的函数与Python编写的函数结果一致。

以上这篇浅谈python和C语言混编的几种方式(推荐)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持本站。

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。