C语言函数调用约定与返回值机制详解

函数调用约定的核心差异

在C语言编程与底层开发中，函数调用约定决定了参数如何传递给函数、由谁清理堆栈以及生成的符号名称。常见的调用约定包括：

• _cdecl：C语言的默认调用约定，参数从右向左压栈，由调用者清理堆栈。
• _stdcall：Windows API常用的标准调用约定，参数从右向左压栈，由被调用者清理堆栈。
• _fastcall：快速调用约定，优先通过寄存器传递前几个参数，剩余参数压栈，由被调用者清理堆栈。
• _thiscall：C++成员函数的特定调用约定，通常隐含隐藏的第一个参数（this指针）。

这些约定的不同会直接影响三个方面：生成的符号名、入参顺序以及形参内存的清理者。

第1步：理解对符号名的影响

不同调用约定会在编译时修饰（Decorate）函数的符号名，这直接关系到链接器能否正确匹配声明与定义。如果声明和定义使用的调用约定不一致，会导致链接错误。

在一个文件中写_cdecl的函数声明：

在另一个文件中写_stdcall的函数定义：

我们编译链接一下：

如上所示，链接器找不到__cdecl sum这个函数调用的定义，因为符号名不匹配。将声明的地方改成__stdcall后，符号名一致，链接即可成功。这验证了调用约定对符号生成的决定性作用。

第2步：分析形参内存的释放者

调用约定最本质的区别在于栈平衡的责任归属。通过汇编代码可以清晰观察到ret指令与add esp, N指令的关系。

_stdcall 的栈清理机制

在 _stdcall 约定下，被调用函数负责清理堆栈。这意味着它在返回前需要恢复ESP寄存器的值。

虽然参数由调用方开辟并压入栈中，但_stdcall函数的末尾会使用特定指令回收这部分空间。

ret表示把栈顶元素的值（调用处下一条指令的地址）赋给PC寄存器，并出栈栈顶元素（修改esp）。而 ret 8 表示在ret操作的基础上，额外执行 add esp, 8，即一次性弹出两个双字（假设每个参数4字节），从而完成形参空间的清理。

_fastcall 的寄存器优化

_fastcall 旨在提高调用速度，它尽可能利用寄存器来传递参数，减少内存访问开销。

可以看到在 _fastcall 调用约定中，call 指令前面并没有对应的 push 操作（针对前两个参数），而是通过寄存器把实参传递到形参。这种方式避免了压栈出栈的内存读写，速度很快。此时，实参虽然在调用方栈帧附近，但实际值已在寄存器中；形参在被调用方的栈帧中直接使用寄存器值。

在_fastcall调用约定中，最多只能通过寄存器将最左边8字节的实参带给形参（通常前两个4字节参数），多于8字节的实参还是通过push的方式带给被调用方。

我们给sum传入三个参数，看看是谁释放形参内存：

这就很清楚了，一共3个参数，左边的2个参数通过寄存器传递不需要清理栈空间，只有最后一个通过压栈传递的形参内存需要释放，所以显示 ret 4。

此外，局部变量的寻址方式也因调用约定而异。

对于sum函数的第一个局部变量temp，在 _cdecl 和 _stdcall 中都是通过 ebp-4 访问的，形参是通过ebp正向偏移访问，因为形参内存在调用方的栈帧上（或者说相对于当前栈帧的上方）。

而在_fastcall中是通过寄存器把左边的8字节实参带给sum的形参，并存放在sum函数的栈帧上：

mov edx, dword ptr [ebp-8]
mov ecx, dword ptr [ebp-4]

所以对于sum函数的第一个局部变量temp，其位置会被挤占，只能通过 ebp-0Ch 访问。

_thiscall 的特殊性

对于 _thiscall，如果是参数个数确定的函数，通常由被调用者清理堆栈；对于参数个数不确定（如可变参数）的情况，则由调用者清理堆栈。

函数的返回值传递机制

C语言函数的返回值根据类型和大小，采用不同的载体带出。主要分为内置类型（char、short、int、long、float、double等）、结构体类型、union和enum等。其底层实现逻辑如下：

第1步：小体积返回值 (0 < size ≤ 4字节)

当返回值的大小在1到4字节之间（如int、char、short）时，直接通过 eax 寄存器带回。这是效率最高的方式。

第2步：中等体积返回值 (4字节 < size ≤ 8字节)

当返回值较大但仍可用两个寄存器承载时（如包含两个整数的结构体），使用 eax 和 edx 寄存器组合带出。其中低地址部分通常在 eax，高地址部分在 edx。

// 示例代码演示4-8字节结构的返回
typedef struct {
	int a;
	int b;
}Data;

Data sum(Data a, Data b) {
	Data temp = { 0 };
	temp.a = a.a + b.a;
	return temp;
}

可以看到，当返回值大小在4到8字节时，汇编层面清晰地显示了通过 eax 和 edx 寄存器联合返回数据的过程。

第3步：大体积返回值 (size > 8字节)

当返回值超过8字节（如大型结构体），寄存器不足以直接承载全部数据。此时编译器会采用“隐性参数”机制。

// 示例代码演示大于8字节结构的返回
typedef struct {
	int a[20]; // 80字节
}Data;

Data sum(Data a, Data b) {
	Data temp = { 0 };
	temp.a[0] = a.a[0] + b.a[0];
	return temp;
}

int main() {
	Data a = { 10 };
	Data b = { 20 };
	Data ret = { 0 };
	ret = sum(a, b); // 这里触发了大对象拷贝逻辑
	return 0;
}

在压参数的时候，没有单纯使用 push 指令逐个搬运所有字节，因为寄存器不够用且栈传输效率低。编译器使用了类似循环拷贝的方法处理实参，但关键在于返回值。**产生临时量有三个地方**：函数调用前、函数调用时return的地方、函数调用完成时。

在接收大于8字节返回值时，是在函数调用前产生临时量用于存储返回值，并把临时量内存的地址压栈。这个临时量是由调用者分配的空间，专门用来接收被调用者计算出的结果。

我们看到不仅仅压栈了实参a、b，还压栈了临时量的地址，可以把sum函数简单理解为如下形式：

// 编译器等价变换
Data sum(void* tmp_address, Data a, Data b);

我们看一下sum函数中return时的汇编指令是如何带出80字节的返回值的。

最后通过 eax 把临时量的地址带出来。调用函数就可以通过 eax 拿到指向该内存块的指针，从而获取sum函数的完整返回值。

如果临时量在函数调用前产生，那被调用函数返回的时候，肯定是通过 ebp+8 访问临时量并写入返回值。这是因为：

• ebp 指向的空间保存了调用函数的栈底地址。
• ebp+4 指向的空间保存了 call 指令下一条指令的地址（即返回地址）。
• ebp+8 指向最后一个压栈的实参，即用于带出返回值的临时量的地址。

总结规律

• 返回值空间在[1,4]字节：直接用 eax 寄存器。
• 返回值空间在[5,8]字节：用 eax、edx 寄存器组合。
• 返回值空间大于8字节：函数调用前由调用者分配临时量空间，将该临时量的地址作为最后一个隐藏实参压栈；被调用函数通过 ebp+8 找到该地址并写入数据；最终返回该地址指针。

以上就是的详细内容，更多关于C语言底层栈帧与汇编优化的资料请关注本站其它相关文章！