Python Pandas删除指定列空值行的多种方法
本文介绍在Python中使用Pandas库删除DataFrame中指定列包含空值(NaN)行的多种实现方式。主要方法包括使用dropna函数的subset参数、布尔索引结合notnull()方法以及query函数。文章提供了具体的代码示例,并对三种方法在大规模数据下的执行效率进行了计时对比,帮助开发者选择最优的数据清洗方案。
Python删除指定列空值行的方法
本文主要探讨如何处理数据清洗中的常见需求。
具体场景是筛选出销售人员字段不为空的记录行。
原始数据的存储结构如图所示。

基础示例代码实现
以下是具体的代码实现过程。
import pandas as pd
data = pd.read_excel('test.xlsx',sheet_name='Sheet1')
datanota = data[data['销售人员'].notna()]
print(datanota)
运行脚本后得到的输出结果如下所示。
D:\Python\Anaconda\python.exe D:/Python/test/EASdeal/test.py 城市 销售金额 销售人员 0 北京 10000 张丽丽 1 上海 50000 潇潇 2 深圳 60000 笨笨笨 3 成都 40000 达达
Process finished with exit code 0
处理CSV数据中特定列空值
如何高效删除特定列中包含空值或NaN的行?
假设有一个CSV文件,读取该文件后的数据状态如下。
import pandas as pd
data = pd.read_csv('my_data.csv', sep=',')
data.head()
查看数据头部信息,输出结果如下所示。
id city department sms category 01 khi revenue NaN 0 02 lhr revenue good 1 03 lhr revenue NaN 0
目标是移除sms列中所有值为空或NaN的行,需要找到一种高效的方法。
三种主要解决方案
推荐的解决方案如下。
可以使用dropna函数,并通过subset参数指定需要检查NaN值的特定列。
data = data.dropna(subset=['sms'])
print (data)
id city department sms category
1 2 lhr revenue good 1
另一种可行的方案是利用布尔索引配合notnull()方法。
data = data[data['sms'].notnull()]
print (data)
id city department sms category
1 2 lhr revenue good 1
还可以使用query函数作为替代方案。
print (data.query("sms == sms"))
id city department sms category
1 2 lhr revenue good 1
方法性能计时对比
接下来对几种方法的执行时间进行对比测试。
#[300000 rows x 5 columns]
data = pd.concat([data]*100000).reset_index(drop=True)
In [123]: %timeit (data.dropna(subset=['sms']))
100 loops, best of 3: 19.5 ms per loop
In [124]: %timeit (data[data['sms'].notnull()])
100 loops, best of 3: 13.8 ms per loop
In [125]: %timeit (data.query("sms == sms"))
10 loops, best of 3: 23.6 ms per loop
以上就是关于Python实现删除某列中含有空值的行的示例代码的文章介绍,更多相关Python删除某列空值内容请搜索本站以前的文章或继续浏览下面的相关文章希望大家以后多多支持本站!
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









