数据去重可以使用duplicated()和drop_duplicates()两个方法。
dataframe.duplicated（subset = none，keep =‘first’）返回boolean series表示重复行
参数：
subset：列标签或标签序列，可选
仅考虑用于标识重复项的某些列，默认情况下使用所有列
keep：{‘first’，‘last’，false}，默认’first’
first：标记重复，true除了第一次出现。
last：标记重复，true除了最后一次出现。
错误：将所有重复项标记为true。
相关推荐：《python基础教程》
import numpy as npimport pandas as pdfrom pandas import series, dataframedf = pd.read_csv('./demo_duplicate.csv')print(df)print(df['seqno'].unique()) # [0. 1.]# 使用duplicated 查看重复值# 参数 keep 可以标记重复值 {'first'，'last'，false}print(df['seqno'].duplicated())'''0 false1 true2 true3 true4 falsename: seqno, dtype: bool'''# 删除 series 重复数据print(df['seqno'].drop_duplicates())'''0 0.04 1.0name: seqno, dtype: float64'''# 删除 dataframe 重复数据print(df.drop_duplicates(['seqno'])) # 按照 seqno 来去重''' price seqno symbol time0 1623.0 0.0 appl 14734119624 1649.0 1.0 appl 1473411963'''# drop_dujplicates() 第二个参数 keep 包含的值 有： first、last、falseprint(df.drop_duplicates(['seqno'], keep='last')) # 保存最后一个''' price seqno symbol time3 1623.0 0.0 appl 14734119634 1649.0 1.0 appl 1473411963'''
以上就是python去重函数是什么的详细内容。