部分读取大型numpy文件的有效方法?

部分读取大型numpy文件的有效方法?,第1张

部分读取大型numpy文件的有效方法?

numpy.load
照常使用,但一定要指定
mmap_mode
关键字,以便将数组保留在磁盘上,并且在访问时仅将必要的位加载到内存中。

mmap_mode: {None,’r +’,’r’,’w
+’,’c’},可选如果不是None,则使用给定模式对文件进行内存映射(有关这些模式的详细说明,请参见numpy.memmap
)。内存映射的阵列保留在磁盘上。但是,可以像访问任何ndarray一样对其进行访问和切片。内存映射对于访问大文件的小片段而不将整个文件读入内存特别有用。

模式描述于

numpy.memmap

模式: {‘r +’,’r’,’w +’,’c’},可选以这种模式打开文件:’r’打开现有文件,仅供读取。’r +’打开现有文件进行读写。’w
+’创建或覆盖现有文件以进行读取和写入。’c’写时复制:分配会影响内存中的数据,但更改不会保存到磁盘。磁盘上的文件是只读的。

*请确保不要使用“ w +”模式,因为它会删除文件的内容。



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5644813.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存