今天在处理快手的用户数据时，遇到了一个差不多600M的txt文本，用sublime打开都蹦了，我用pandas.read_table()去读，差不多花了近2分钟，最后打开发现差不多3千万行数据。这仅仅是打开，如果要处理不知得多费劲。
问题：今天在处理快手的用户数据时，遇到了一个差不多600M的txt文本，用sublime打开都蹦了，我用pandas.read_table()去读，差不多花了近2分钟，最后打开发现差不多3千万行数据。这仅仅是打开，如果要处理不知得多费劲。
解决：我翻了一下文档，这一类读取文件的函数有两个参数：chunksize、iterator
原理就是不一次性把文件数据读入内存中，而是分多次。
1、指定chunksize分块读取文件
read_csv 和 read_table 有一个 chunksize 参数，用以指定一个块大小(每次读取多少行)，返回一个可迭代的 TextFileReader 对象。
- table=pd.read_table(path+'kuaishou.txt',sep='\t',chunksize=1000000)
- fordfintable:
- 对df处理
- #如df.drop(columns=['page','video_id'],axis=1,inplace=True)
- #print(type(df),df.shape)打印看一下信息12345
我这里又对文件进行了划分，分成若干个子文件分别处理(没错，to_csv也同样有chunksize参数)
2、指定iterator=True
iterator=True同样返回的是TextFileReader对象
- reader=pd.read_table('tmp.sv',sep='\t',iterator=True)
- df=reader.get_chunk(10000)
- #通过get_chunk(size)，返回一个size行的块
- #接着同样可以对df处理
直接看看pandas文档在这一方面的内容吧。
©本文为清一色官方代发，观点仅代表作者本人，与清一色无关。清一色对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。本文不作为投资理财建议，请读者仅作参考，并请自行承担全部责任。文中部分文字/图片/视频/音频等来源于网络，如侵犯到著作权人的权利，请与我们联系（微信/QQ:1074760229）。转载请注明出处：清一色财经
微信扫码打赏 
支付宝扫码打赏 
