两个csv文件(1.csv 2.csv),第一个有 100万行数据左右,第二个30万行数据,它们有两个相同的列标,我想同时匹配这两列字符串,如果1的这两个字符串和2的内容相同,则把1中这一行数据筛选下来。
有什么高效的算法吗?怎么做? 谢谢!
import pandas as pd
df1 = pd.read_csv('1.csv')
df2 = pd.read_csv('2.csv')
idx_for_df1 = df1['列标'].isin(df2['列标']) # 使用DataFrame.isin 筛选列标字符一样的行
df_final = df1[idx_for_df1] # df_final 是你想要的结果
每行算一个MD5码,然后比较MD5码
http://pandas.pydata.org/pandas-docs/version/0.17.1/merging.html
merge或者join都可以。