pandas.DataFrame.drop_duplicates 参数详解与去重实战

沈亦白
沈亦白
发布时间:2026-10-14| 3人浏览过
原创

本文详细介绍pandas库中DataFrame.drop_duplicates函数的使用方法,重点解析subset、keep和inplace三个核心参数的具体含义与配置选项。通过实际代码示例,演示如何指定列进行去重、保留首尾重复项或完全删除重复数据,帮助开发者高效处理数据清洗中的重复值问题。

drop_duplicates 函数签名

如下所示:

DataFrame.drop_duplicates(subset=None, keep='first', inplace=False)

核心参数说明

subset参数用于指定考虑重复值的列,默认值为None表示检查所有列,即只要任意一列出现重复即视为重复数据。

keep参数接受first、last或False三个选项。first表示保留首次出现的重复数据,删除后续重复项;last表示保留最后一次出现的重复数据,删除之前的重复项;False则表示删除所有重复数据,不保留任何一行。默认值为first。

补充知识:python3删除数据重复值,只保留第一项。drop_duplicates()函数使用介绍

去重实战示例

原始数据如下:

f 列的前3个数据都有重复项,现在要将重复值删去,只保留第一项或最后一项。

使用drop_duplicates()

drop_duplicates(self, subset=None, keep='first', inplace=False)

subset :如['a']代表a列中的重复值全部被删除

keep:保留第一个值,参数为first,last

inplace:是否替换原来的df,默认为False

代码实现与结果分析


import pandas as pd
data = pd.read_table("C:/Users/xujinhua/Desktop/aa/a.txt",header=None, names=['a','b','c','d','e','f','g']) 
#读取文件数据,并将列命名为abcdef
data.drop_duplicates(subset='f', keep='first', inplace=True)
print(data)

结果:

可以看到 f 列中的重复值都被删除,且保留了第一项

以上这篇pandas.DataFrame.drop_duplicates 用法介绍就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持本站。

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。