摘要:Python环境下文件的读取问题,请参见拙文Python基础——文件这是一道著名的Python面试题,考察的问题是,Python读取大文件和一般规模的文件时的区别,也即哪些接口不适合读取大文件。1.read()()接口的问题f=open(filename,'rb')f.read()我们来读取1个nginx的日至文件,规模为3Gb大小。read()方法执行的 *** 作,是一次性全部读入内存,显然会造成:MemoryError...也即会发生内存溢出。2.解决方案:转换接口(1)readl
Python 环境下文件的读取问题,请参见拙文 Python 基础 —— 文件
这是一道著名的 Python 面试题,考察的问题是,Python 读取大文件和一般规模的文件时的区别,也即哪些接口不适合读取大文件。
1. read() 接口的问题
f = open(filename, 'rb') f.read()我们来读取 1 个 nginx 的日至文件,规模为 3Gb 大小。read() 方法执行的 *** 作,是一次性全部读入内存,显然会造成:
MemoryError ...也即会发生内存溢出。
2. 解决方案:转换接口3. 真正 Pythonic 的方法
真正 Pythonci 的方法,使用 with 结构:
with open(filename, 'rb') as f: for line in f: <do something with the line>对可迭代对象 f,进行迭代遍历:for line in f,会自动地使用缓冲IO(buffered IO)以及内存管理,而不必担心任何大文件的问题。
There should be one – and preferably only one – obvious way to do it.
(1)readlines() :读取全部的行,构成一个 list,实践表明还是会造成内存的问题
for line in f.reanlines(): ...
(2)readline():每次读取一行,
while True: line = f.readline() if not line: break
(3)read(1024):重载,指定每次读取的长度
while True: block = f.read(1024) if not block: break然后在循环里面替换就好了
for line in lines: if "aaaa" in line: #替换 line = line.replace("aaaaaa","bbbbbb") f_w.write(line)用python读取文本文件,对读出的每一行进行 *** 作,写法如下:
f = open("test.txt", "r")
while True:
line = f.readline()
if line:
pass # do something here
line=line.strip()
p=line.rfind('.')
filename=line[0:p]
print "create %s"%line
else:
break
f.close()
扩展资料:
Python将txt文件读取到一个字符串里的 *** 作方法如下:
1、首先,添加Python文件和文本文件以在vscode中读取,如下图所示。
2、其次,完成上述步骤后,在txt文件中写入一些内容以用于内容读取,只需将其写入即可,如下图所示。
3、接着,完成上述步骤后,必须导入os文件,以便可以在os中调用某些文件 *** 作方法,如下图所示。
4、然后,完成上述步骤后,打开要读取的文件,并将读取的内容数据复制到字符串中,如下图所示。
5、随后,完成上述步骤后,打印字符串以显示内容,以方便参考,如下图所示。
6、接着,完成上述步骤后,运行jy.py文件,该文件将开始读取和打印内容,如下图所示。
7、最后,完成上述步骤后,可以看到已读取txt文件的内容,如下图所示。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)