Pandas中合并多个Dataframe的方法:merge与concat详解

沈亦白
沈亦白
发布时间:2026-10-13| 3人浏览过
原创

本文详细介绍Pandas中合并多个Dataframe的两种核心方法:merge和concat。通过对比left连接、多key合并及行列拼接等场景,解析如何根据数据对齐需求选择合适函数,并附带关键代码示例,帮助开发者高效处理大数据竞赛中的多表关联问题。

在数据处理过程中,特别是在参与大数据竞赛时,经常需要解决多个数据表的合并问题。例如,一个数据表包含user_id和age字段,另一个数据表包含user_id和sex字段,目标是将这两个表合并为仅包含user_id、age和sex三个字段的单一数据表。由于user_id在各行的对应关系并非完全一致,简单的横向拼接(类似拼积木的方式)无法直接实现这一目标。

Pandas库提供了merge函数来解决这一实用需求,熟悉SQL语言的开发者对该术语应当不陌生。

接下来具体说明merge函数的使用方法:

df = pd.merge(df1, df2, how='left', on='user_id') 

用法相对简单,重点在于后两个参数的设置。how=""参数用于指定以哪个表的key为准,例如上述示例中how="left"表示以数据表df1为准,而key则由on=""参数指定。

当设置how="left"时,意味着保留user_id字段的全部信息,既不增加也不减少;在拼接过程中,仅将df2表中与df1中user_id字段存在交集的部分进行合并。如果df2中出现的某个user_id在df1中不存在,则该样本将被忽略,不作处理。

若需进行多key合并,操作如下:

df = pd.merge(df1, df2, how='left', on=['user_id','sku_id']) 

但如果目标仅是进行简单的“拼接”而非基于key的合并,则应使用concat函数:

df = pd.concat( [df_user, dummies_sex, dummies_age, dummies_level], axis=1 ) 

这种方法可以保留所有数据表的全部信息。参数axis=1表示按列进行拼接,而axis=0表示按行进行拼接。

需要注意的是,进行列拼接时,必须保证各个数据表的行数相同,且每一行对应的key也完全一致,这样列拼接才具有实际意义。

以上关于Pandas合并多个Dataframe(merge与concat)的方法即为全部内容,希望能对各位读者提供参考,也欢迎大家继续支持本站。

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。