高效率地保存多个 Python 对象!你学会了吗?

高效率地保存多个 Python 对象!你学会了吗?,第1张

概述json文件因其简洁精炼,在网上特别流行,我们写爬虫时经常碰到网站使用json格式传输数据。但是如果要存储的数据有1G,那么读取一个json文件需要一次性读入,这需要占用很大的内存,对电脑压力过大。所以我们需要将数

Json文件因其简洁精炼,在网上特别流行,我们写爬虫时经常碰到网站使用Json格式传输数据。但是如果要存储的数据有1G,那么读取一个Json文件需要一次性读入,这需要占用很大的内存,对电脑压力过大。所以我们需要将数据存储为很多个对象,通过逐行读取方式减轻内存占用压力。所以今天就讲到Jsonlines这个库,希望大家能有所收获。

Jsonlines

每一行都是一个Json或python对象 采用utf-8编码

Jsonlines库的特性

便捷的open()功能

易于写入 传入文件名和写入方式mode 返回Reader或Writer实例 能被用做上下文管理器

安装

pip install Jsonlines

使用方法

Jsonlines可以保存python的各种数据类型对象,如列表、字典、数字、元组、集合等等。

例如以python字典类型逐行写入到Jsonl文件里

加群:960410445   一起学习一起交流!

import Jsonlineswith Jsonlines.open('data.Jsonl',mode='w') as writer: writer.write({'a':5}) writer.write({'a':6}) writer.write({'a':7})

发现当前工作路径下已经生成了一个Jsonl文件。

以逐行的方式读取Jsonl文件里的多个字典

with Jsonlines.open('data.Jsonl',mode='r') as reader: for row in reader: print(type(row),row)

运行

 {'a': 5} {'a': 6} {'a': 7}
总结

以上是内存溢出为你收集整理的高效率地保存多个 Python 对象!你学会了吗?全部内容,希望文章能够帮你解决高效率地保存多个 Python 对象!你学会了吗?所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/langs/1209214.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-04
下一篇 2022-06-04

发表评论

登录后才能评论

评论列表(0条)

保存