python_pandas某列值为空,过滤删除所在的行数据-产品经理Python数据分析实战笔记001

python_drop业务场景
python_pandas.当一个指标为空、无值、为特殊值时(0),我们认为这个行数据没有数据统计意义,比如统计某个产品用户总消费数据时,发现很多用户有登录没有消费动作,非付费用户,希望过滤掉无消费用户数据,那么下面的方法就能帮到你。
dropna() 方法过滤任何含有缺失值的行
pandas.DataFrame
里,如果一行数据有任意值为空,则过滤掉整行,这时候使用dropna()
方法是合适的。下面的案例,任意列只要有一个为空数据,则整行都干掉。但是我们常常遇到的情况,是根据一个指标(一列)数据的情况,去过滤行数据,类似Excel里面的过滤漏斗,怎么办?
>>> import pandas as pd
>>> data = pd.DataFrame([[1.,6.5,3.],[1.],[],[6.5,3.]],index=list('abcd'),columns=list('def'))
>>> data
d e f
a 1.0 6.5 3.0
b 1.0 NaN NaN
c NaN NaN NaN
d 6.5 3.0 NaN
>>> data.dropna() #任意列只要有一个为空数据,则整行都干掉
d e f
a 1.0 6.5 3.0
方法一:dropna()其他参数解析
原文链接,我们引入了dropna()
方法的其他参数。
DataFrame.dropna(axis=0, how='any', thresh=None, subset=None, inplace=False)
参数说明:
- axis:
- axis=0: 删除包含缺失值的行
- axis=1: 删除包含缺失值的列
- how: 与axis配合使用
- how=‘any’ :只要有缺失值出现,就删除该行货列
- how=‘all’: 所有的值都缺失,才删除行或列
- thresh: axis中至少有thresh个非缺失值,否则删除。比如 axis=0,thresh=10:标识如果该行中非缺失值的数量小于10,将删除改行
- subset: list,在哪些列中查看是否有缺失值
- inplace: 是否在原数据上操作。如果为真,返回None否则返回新的copy,去掉了缺失值
>>> data.dropna(axis=0,subset=['e']) #axis=0,删除行,subset的列选择
d e f
a 1.0 6.5 3.0
d 6.5 3.0 NaN
方法二:Python pandas 如果某列值为空,过滤删除所在行数据
如上面的data数据,如果希望“e”列数值为空NaN时,删除对应行也就是“b、c”行数据,保留其他行,用dropna()
似乎比较麻烦。 这个时候的思路是:
fillna()
给空值填充一个数值(如999999)index.tolist()
找出值为填充值所在行的索引drop
根据索引干掉对应的行
>>> data['e']=data['e'].fillna(999999)
>>> find_index=data[(data.e==999999)].index.tolist()
>>> find_index
['b', 'c']
>>> data.drop(find_index)
d e f
a 1.0 6.5 3.0
d 6.5 3.0 NaN
