首页 > 使用pandas从一个csv文件中筛选部分数据,求高效率方法

使用pandas从一个csv文件中筛选部分数据,求高效率方法

两个csv文件(1.csv 2.csv),第一个有 100万行数据左右,第二个30万行数据,它们有两个相同的列标,我想同时匹配这两列字符串,如果1的这两个字符串和2的内容相同,则把1中这一行数据筛选下来。
有什么高效的算法吗?怎么做? 谢谢!


import pandas as pd
df1 = pd.read_csv('1.csv')
df2 = pd.read_csv('2.csv')

idx_for_df1 = df1['列标'].isin(df2['列标']) # 使用DataFrame.isin 筛选列标字符一样的行
df_final = df1[idx_for_df1] # df_final 是你想要的结果

每行算一个MD5码,然后比较MD5码


http://pandas.pydata.org/pandas-docs/version/0.17.1/merging.html

merge或者join都可以。

【热门文章】
【热门文章】