python reader,python讀大csv文件慢的問題,csv reader是個坑

 2023-11-30 阅读 38 评论 0

摘要:目標:讀取一個大的csv,8GB,16個列。對每一行驗證name列是否在某個list中,獲得對應id列的值。 坑:csv reader 巨慢 使用 with open(...) as f:for line in f:process(line) # <do something with line> 讀10000行需要20s 使用 with o

目標:讀取一個大的csv,8GB,16個列。對每一行驗證name列是否在某個list中,獲得對應id列的值。

坑:csv reader 巨慢

使用

with open(...) as f:for line in f:process(line) # <do something with line>

讀10000行需要20s

使用

with open("test.csv",newline = '')  as f:reader = csv.reader(f)for row in reader: 

python reader。讀10000行需要2min

版权声明:本站所有资料均为网友推荐收集整理而来,仅供学习和研究交流使用。

原文链接:https://808629.com/187529.html

发表评论:

本站为非赢利网站,部分文章来源或改编自互联网及其他公众平台,主要目的在于分享信息,版权归原作者所有,内容仅供读者参考,如有侵权请联系我们删除!

Copyright © 2022 86后生记录生活 Inc. 保留所有权利。

底部版权信息